ChatGPTが告訴状を「偽造」 米男性、名誉毀損でオープンAI提訴 | Forbes JAPAN 公式サイト(フォーブス ジャパン)

  • 📰 forbesjapan
  • ⏱ Reading Time:
  • 1 sec. here
  • 2 min. at publisher
  • 📊 Quality Score:
  • News: 4%
  • Publisher: 51%

日本 見出し ニュース

生成AI(人工知能)のChatGPT(チャットGPT)によって、自分を詐欺と横領の嫌疑がかけられた人物とするでたらめな訴訟の概要を作成され、…… → ChatGPTが告訴状を「偽造」 米男性、名誉毀損でオープンAI提訴

ところが、ジャーナリストからこの訴訟について尋ねられたチャットGPTは、ウォルターズがセカンド・アメンドメント財団から「資金をだまし取り、不法に自分のものにした」として、財団の設立者が告訴したとする訴訟をでっちあげ、それについての概要を作成して回答した。問題の回答は、チャットGPTのような生成AIで比較的頻繁に起きるハルシネーションの結果と考えられる。ハルシネーションは、完全に誤った情報を言語モデルがなんの警告もせずに生成する現象で、それ以外の箇所は正確なこともある。一見して事実のように思える内容や、インチキな引用や出典が添えられたりするため、読み手が納得してしまう恐れがある。AIのハルシネーションをめぐっては、オンライン上の偽情報問題に拍車をかけるおそれがあると一部の専門家が警鐘を鳴らしてきた。オープンAIもGoogle(グーグル)をはじめとする競合他社も、ハルシネーションをめぐる懸念を認めている。」を発表した際、以前のモデルと同樣の制約を抱えていると述べ、ハルシネーションなどを例に「まだ完全に信頼できるものではない」と注意を促していた。その後、ハルシネーションに対処する新たなAIト

ところが、ジャーナリストからこの訴訟について尋ねられたチャットGPTは、ウォルターズがセカンド・アメンドメント財団から「資金をだまし取り、不法に自分のものにした」として、財団の設立者が告訴したとする訴訟をでっちあげ、それについての概要を作成して回答した。問題の回答は、チャットGPTのような生成AIで比較的頻繁に起きるハルシネーションの結果と考えられる。ハルシネーションは、完全に誤った情報を言語モデルがなんの警告もせずに生成する現象で、それ以外の箇所は正確なこともある。一見して事実のように思える内容や、インチキな引用や出典が添えられたりするため、読み手が納得してしまう恐れがある。AIのハルシネーションをめぐっては、オンライン上の偽情報問題に拍車をかけるおそれがあると一部の専門家が警鐘を鳴らしてきた。オープンAIもGoogle(グーグル)をはじめとする競合他社も、ハルシネーションをめぐる懸念を認めている。」を発表した際、以前のモデルと同樣の制約を抱えていると述べ、ハルシネーションなどを例に「まだ完全に信頼できるものではない」と注意を促していた。その後、ハルシネーションに対処する新たなAIトレーニング方法に取り組む考えも明らかにしている。

 

コメントありがとうございます。コメントは審査後に公開されます。
このニュースをすぐに読めるように要約しました。ニュースに興味がある場合は、ここで全文を読むことができます。 続きを読む:

 /  🏆 120. in JP

日本 最新ニュース, 日本 見出し

Similar News:他のニュース ソースから収集した、これに似たニュース記事を読むこともできます。

ChatGPTが告訴状を「偽造」 米男性、名誉毀損でオープンAI提訴 | Forbes JAPAN 公式サイト(フォーブス ジャパン)生成AI(人工知能)のChatGPT(チャットGPT)によって、自分を詐欺と横領の嫌疑がかけられた人物とするでたらめな訴訟の概要を作成され、名誉を毀損(きそん)されたとして、米ジョージア州の男性が開発元のOpenAI(オープンAI)を相手取...
ソース: forbesjapan - 🏆 120. / 51 続きを読む »

今秋iPadはユーザーの「健康」も支えるデバイスに進化する | Forbes JAPAN 公式サイト(フォーブス ジャパン)iPadのオペレーティングシステムとして、2019年にiOSから独立したiPadOSの最新バージョン「iPadOS 17」がこの秋に正式リリースを迎える。今回はiOS 17と共通の進化が数多く採り入れられている。さらにiPadの用途がまた大...
ソース: forbesjapan - 🏆 120. / 51 続きを読む »

ChatGPTを超えた「ヘルスケアLLM」の実力 690億円の資金調達も | Forbes JAPAN 公式サイト(フォーブス ジャパン)スタートアップを中心にビジネスのトレンドを、メールで隔週お届けしている「Forbes JAPAN Newsletter」。本連載では、その内容をピックアップして紹介します。今回は、医師であり、スタートアップの投資家である中安杏奈さんによる「...
ソース: forbesjapan - 🏆 120. / 51 続きを読む »

新規事業の6割は成功せず、必要なのは「多様性」か | Forbes JAPAN 公式サイト(フォーブス ジャパン)DXの推進や新規事業の立ち上げは企業が生き抜いていくうえで重要ですが、そう簡単ではないことは誰もが想像できます。実際、そうした事業に携わった経験を持つ約1000人の会社員に聞いたところ、6割が失敗していたことがわかりました。なぜダメだったの...
ソース: forbesjapan - 🏆 120. / 51 続きを読む »

日本の天文家が発見した超新星、その輝きをとらえた超精密画像公開 | Forbes JAPAN 公式サイト(フォーブス ジャパン)超新星SN 2023ixfの精密な画像を、ハワイにあるマウナ・ケア火山のジェミニ・ノース望遠鏡が撮影した。過去10年間に観測された中で最も大きく、最も明るい超新星であるSN 2023ixfは、2023年5月19日に風車銀河(M101)の外れ...
ソース: forbesjapan - 🏆 120. / 51 続きを読む »

SNSコラボサービス「Castee」が1.5億調達、人気インフルエンサーの参加を予定 | Forbes JAPAN 公式サイト(フォーブス ジャパン)近年、SNSを創作の舞台とするクリエイター達の存在感が増している。そうした中、クリエイターが他のクリエイターや企業、ファンとコラボレーションすることで新たなコンテンツを生み出すケースは当たり前になっており、コラボの依頼や募集、企画のやり取り...
ソース: forbesjapan - 🏆 120. / 51 続きを読む »