。生成AIなど大規模な基盤モデルを、用途ごとに追加学習（チューニング）して利用する場合に不可欠な、基盤モデルの更新に伴う再チューニングのコストを大幅に削減できる。生成AIの運用容易化や適用領域拡大、消費電力の削減に貢献するという。 生成AIを利用する際には、各企業や組織の要件に対応するため、個々のデータセットを用いた追加学習により基盤モデルをチューニングするのが一般的だ。しかし、チューニングした生成AIは、基盤モデルの更新時や変更時に再チューニングが必要となり、多大な計算コストが生じることが課題となっている。
NTTは今回、ニューラルネットワークのパラメータ空間にある高い対称性に着目。置換変換と呼ばれるニューロンの入れ替えに関する対称性の下で、異なるモデル間の学習過程同士を近似的に同一視できることを発見した。 さらに、この発見に基づき、過去の学習過程を適切な「置換対称性（ニューロンの入れ替えによりパラメータが変わっても、全体の出力は変わらないという性質）」によって変換することで、新たなモデルの学習過程として再利用できる「学習転移」技術を提唱。同技術を用いることで、低コストな変換のみにより一定の精度を達成することができ、学習転移後に追加の学習をすることで目標精度に早く収束することを示した。 今回の成果は、2024年5月7日から11日までオーストリア・ウイーンで開催される「
ASCII ASCII.Jp 角川アスキー総合研究所
このニュースをすぐに読めるように要約しました。ニュースに興味がある場合は、ここで全文を読むことができます。 続きを読む:
日本 最新ニュース, 日本 見出し
Similar News:他のニュース ソースから収集した、これに似たニュース記事を読むこともできます。
NTTが「学習転移」技術を発表 AIモデルの再学習コストを大幅削減NTTが、過去の学習（トレーニング）過程を再利用することで、AIモデルの再学習コストを大幅に削減する「学習転移」技術を発表した。世界初の技術で、同社の「tsuzumi」をはじめとした大規模基盤モデルの更新時や差し替え時に、各ドメインにおける再学習（ファインチューニング）が容易になる。2025年度以降の実用化を目指す。
ソース: weeklyascii - 🏆 94. / 51 続きを読む »
NTT独自の大規模言語モデルを使った生成AIサービス「tsuzumi」来年3月サービス開始（2023年11月1日）｜BIGLOBEニュースNTTは、独自の基盤技術を活用した生成AIのサービスを来年3月から法人向けに始めると発表しました。NTTが発表したのは、40年以上かけて社内で研究を進めてきた独自の大規模言語…｜BIGLOBEニュース
ソース: shunkannews - 🏆 17. / 63 続きを読む »
NTT 自社開発の国産生成AIサービス 来年3月から企業向け開始へNTTは、自社で開発した国産の生成AIのサービスを来年3月から企業向けに始めると発表しました。アメリカの大手IT企業に対…
ソース: nhk_news - 🏆 22. / 63 続きを読む »
KDDIなど競合3社、NTT法「廃止」に改めて反対KDDIとソフトバンク、楽天モバイルの3社は31日、メディア向けの合同説明会を開き、平等な競争条件が阻害されるなどとしてNTT法の廃止に改めて反対した。NTTは「役割はおおむね完遂した」としてNTT法の廃止を主張する。3社はNTT法廃止でNTTグループの一体化が進み競争環境が崩れることを懸念。公正な競争環境を担保するにはNTT法の改正で対応すべきだと改めて強調した。3社は議論が必要な項目として
ソース: nikkei_business - 🏆 29. / 63 続きを読む »
チューニング＆ドレスアップ徹底ガイド！『ハイパーレブVol.274 スズキ・ジムニー＆ジムニーシエラ No.13』は2023年10月31日発売！チューニング＆ドレスアップ徹底ガイド！『ハイパーレブVol.274 スズキ・ジムニー＆ジムニーシエラ No.13』は2023年10月31日発売！ 三栄のプレスリリース
ソース: PRTIMES_LIFE - 🏆 39. / 63 続きを読む »
NTT、世界初となるファイバーあたり1.6Tbpsの光伝送実験に成功NTTは、2023年10月5日、フィールド敷設4コアファイバーを用いて、世界初となる、ファイバー1心で毎秒1.6Tbpsを超える光信号の空間多重光伝送実験に成功したことを発表した。
ソース: weeklyascii - 🏆 94. / 51 続きを読む »