モデルの説明

T5(Text-to-Text Transfer Transformer)

テキストからテキストに変換するモデルです。
「文書の要約」「外国語翻訳」「文書の分類」などのタスクが行えます。
外国語翻訳にヒントを得て方言に変換するモデルを考えました。
T5はChatGPTの基盤となっているTransformerのアーキテクチャが使われています。

transformer Transformer
t5 T5

Huggingfaceで公開されているT5事前学習済みモデルをお借りしました。
学習データを作成して事前学習済みモデルをファインチューニングしています。

事前学習モデル

学習データ参考

※低スペックのリソースで動いているので処理速度はご愛敬でお願いします。

戻る