お知らせ connpassではさらなる価値のあるデータを提供するため、2024年5月23日(木)を以ちましてイベントサーチAPIの無料での提供の廃止を決定いたしました。
料金・プラン等につきましては後日改めてご案内いたします。詳しくはこちらの お知らせをご覧ください。

お知らせ connpassをご利用いただく全ユーザーにおいて健全で円滑なイベントの開催や参加いただけるよう、イベント参加者向け・イベント管理者向けのガイドラインページを公開しました。内容をご理解の上、イベント内での違反行為に対応する参考としていただきますようお願いいたします。

このエントリーをはてなブックマークに追加

Aug

31

Hugging Face Transformers モデルのチューニング入門

AIアプリDojo #3

Organizing : コンテナ共創センター(Windows Container Porting Program)

Hugging Face Transformers モデルのチューニング入門
Registration info

参加枠1

Free

Attendees
78

Attendees
methodist
machii
hi_mi
ENOMOTOQ
Reki_A
yuto2000
Masashi Morita
ksi4lab
Pan-Naga-JP1
Nobuo
View Attendee List
Start Date
2023/08/31(Thu) 14:00 ~ 15:00
Registration Period

2023/08/02(Wed) 11:52 〜
2023/08/31(Thu) 15:00まで

Location

オンライン

参加者への情報
(参加者と発表者のみに公開されます)

Description

概要

生成系AIへの注目が集まる中、エンジニアの皆さんは、AIアプリを検討する機会が増えていくと思います。このセッションでは、自然言語理解や自然言語生成をコンピューターを使って処理していく上で、広く使われているHugging Face Transformersを用いて、事前学習済みモデルに追加の学習をさせるなど、チューニング、カスタム化のために必要なことを具体例を取り上げながら学びます。 Hugging Faceが提供しているドキュメントとサンプルコードを参照し、BERTモデルを利用し、テキスト分類(0から4のラベル付け)というタスクに使えるファインチューニングを題材に話を進めます。Datasets、Transformersなどに含まれるクラスライブラリをどう使っていくのか、ファインチューニング用のPythonコードの動作が大まかに理解できるように流れをご紹介します。最後に、出来上がったモデルをHugging Face Hubに公開する流れをDemoを交えてご紹介します。
AI アプリ Dojo #1, #2で学んだ環境を使っていきますので、Python, Pytorch, Hugging Face Transformersをご準備ください。もし可能であればPytorchがサポートするGPUを有するPC/Macをご準備ください。

講演で利用したバージョン: Windows 11 Pro 22H2 (22621.2215) Python 3.10.6, CUDA V11.7.64, Pytorch 2.0.1+cu117 CPU: AMD Ryzen 9 5950X (3.4GHz, 16コア), Memory: 128GB, GPU: NVIDIA GeForce RTX 4090

macOS 13.5.1(22G90)Python 3.11.4 Pytorch 2.0.1 (mpsサポートなし) CPU: Intel Core i5 3.7GHz 6コア CPU, Memory: 64GB

AIアプリ Dojo

下記シリーズで開催します。

タイトル 実施日
1 [入門者歓迎] GPUを活用して生成系AIに触れてみよう 2023/6/15(木)
2 Hugging Face Transformers 入門 2023/6/29(木)
3 Hugging Face Transformers モデルのチューニング入門 2023/8/31(木)

参加方法

開催日の2日前までに、オンライン・イベント参加のURL: [参加者への情報] 欄に公開いたします。

講師

大西 彰

日本アイ・ビー・エム株式会社
テクノロジー事業本部 カスタマーサクセス プリンシパル マネージャー 兼 Windows/.NET Container Porting Program リーダー

Feed

IBMDevJP

IBMDevJP wrote a comment.

2023/08/31 15:42

講演資料: https://speakerdeck.com/oniak3ibm/aiapps-dojo-03-20230831

IBMDevJP

IBMDevJP wrote a comment.

2023/08/31 15:27

利用バージョンについて: macOS 13.5.1(22G90)Python 3.11.4 Pytorch 2.0.1 (mpsサポートなし)

IBMDevJP

IBMDevJP wrote a comment.

2023/08/31 15:12

利用バージョンについて: Windows 11 Pro 22H2 (22621.2215) Python 3.10.6, CUDA V11.7.64, Pytorch 2.0.1+cu117

IBMDevJP

IBMDevJPさんが資料をアップしました。

08/30/2023 22:12

IBMDevJP

IBMDevJP published Hugging Face Transformers モデルのチューニング入門.

08/02/2023 11:52

Hugging Face Transformers モデルのチューニング入門 を公開しました!

Ended

2023/08/31(Thu)

14:00
15:00

You cannot RSVP if you are already participating in another event at the same date.

Registration Period
2023/08/02(Wed) 11:52 〜
2023/08/31(Thu) 15:00

Location

オンライン

オンライン

Organizer

Attendees(78)

methodist

methodist

Hugging Face Transformers モデルのチューニング入門 に参加を申し込みました!

machii

machii

Hugging Face Transformers モデルのチューニング入門 に参加を申し込みました!

hi_mi

hi_mi

Hugging Face Transformers モデルのチューニング入門 に参加を申し込みました!

ENOMOTOQ

ENOMOTOQ

Hugging Face Transformers モデルのチューニング入門 に参加を申し込みました!

Reki_A

Reki_A

Hugging Face Transformers モデルのチューニング入門 に参加を申し込みました!

yuto2000

yuto2000

Hugging Face Transformers モデルのチューニング入門 に参加を申し込みました!

Masashi Morita

Masashi Morita

I joined Hugging Face Transformers モデルのチューニング入門!

ksi4lab

ksi4lab

Hugging Face Transformers モデルのチューニング入門 に参加を申し込みました!

Pan-Naga-JP1

Pan-Naga-JP1

Hugging Face Transformers モデルのチューニング入門 に参加を申し込みました!

Nobuo

Nobuo

Hugging Face Transformers モデルのチューニング入門 に参加を申し込みました!

Attendees (78)

Canceled (1)