NVIDIAがローカルで手軽に動せるAIチャット「Chat with RTX」をリリース!その実力は?

  • 📰 pc_watch
  • ⏱ Reading Time:
  • 33 sec. here
  • 2 min. at publisher
  • 📊 Quality Score:
  • News: 17%
  • Publisher: 63%

日本 見出し ニュース

日本 最新ニュース,日本 見出し

NVIDIAは2024年2月14日、唐突にAIチャットの「Chat with RTX」をリリースした。これまでローカルで大規模言語モデル(LLM)を動かすのはちょっと手間がかかっていたが、Chat with RTXは馴染みやすいインストーラとGUIを採用していて、手軽に試せそうだ。さっそく手元のWindows+GeForce RTX 3090(GPU Box接続)で動かしたので、試用レポートをお届けしたい。

Web UIのインターフェイスは上記のようにスッキリまとまっている。左上に「AI model」の選択。ここは「Mistral 7B int4」と「Llama 2 13B int4」の2択。int4とあるのでおそらく4bit量子化版なのだろう。筆者が好きなLlama2がデフォルトであるのは嬉しい限り。右側は電源ボタンとデータセットの選択。AI Model default / Folder Path / YuTube URLが選択できる。中央はチャットスペース。下に何か入れで返事が返ってくる。基本英語だが、日本語で尋ねることもできた。

下3つのボタンは、Regenerate / Undo / Clear。システム設定系の項目はどこにもない。個人的にはLAN上のほかのPCから使えるhost_name="0.0.0.0"やポート変更なども欲しかったところ。 まずMistral 7B int4とLlama 2 13B int4で同じ質問。「PHPのpdoを使った一連のコードサンプルお願いします」と尋ねてみると、答えは似ているものの、前者は日本語で返ってきた。当初、日本語で聞いても英語だったのが、何か変わったのだろうか? ただ、画面には出ていないが文字化けすることがある。 データセットでFolder Pathを選び、2023年筆者が書いた本連載一式が入っているフォルダを指定した=日本語。MINISFORUM XTX 780の仕様を尋ねると、OCuLinkなど概ね合っているが、リファレンスファイルが03MINISFORUM_UM773_lite.txtになっている。【2024年新年初売り Bluetooth イヤホン】ワイヤレスイヤホン ブルートゥース イヤホン JGUG LEDディスプレイ 両耳ENCノイズキャンセリング 長時間再生 人気 自動ペアリング 完全ぶるーとぅーす Hi-Fi音質 タッチコントロール Type-C充電 IPX7防水 片耳/両耳 小型/軽量 iPhone/Android適用 WEB会議通勤/通学/スポーツ/音楽/ゲーム 【2024新設計 Bluetooth5.

 

コメントありがとうございます。コメントは審査後に公開されます。
このニュースをすぐに読めるように要約しました。ニュースに興味がある場合は、ここで全文を読むことができます。 続きを読む:

 /  🏆 44. in JP

日本 最新ニュース, 日本 見出し

Similar News:他のニュース ソースから収集した、これに似たニュース記事を読むこともできます。

NVIDIA、ローカルで動くチャットAI その名も「Chat with RTX(RTXとおしゃべり)」NVIDIAは2月13日、ローカルPC内のデータを使い自らカスタマイズできるAIチャットボットを作成できる技術デモ「Chat With RTX」を無償公開した。
ソース: asciijpeditors - 🏆 98. / 51 続きを読む »

GeForce RTX 4080 SUPER発売。シリーズ最後となるピースの出来栄えは?NVIDIAのハイエンドGPU「GeForce RTX 4080 SUPER」が1月31日、発売される。これにより、NVIDIAが今年1月9日に発表したGeForce RTX 40 SUPERシリーズ3モデルが全てが出揃うことになる。
ソース: pc_watch - 🏆 44. / 63 続きを読む »

ビデオメモリー6GBの廉価版GeForce RTX 3050がデビューMSIから、ビデオメモリー6GBのGeForce RTX 3050を搭載ビデオカード「GeForce RTX 3050 VENTUS 2X 6G OC」と「GeForce RTX 3050 LP 6G OC」が発売された。
ソース: asciijpeditors - 🏆 98. / 51 続きを読む »

地方企業の想いを載せたストーリー型求人メディア「localLink」をリリース地方企業の想いを載せたストーリー型求人メディア「localLink」をリリース Professional Studio株式会社のプレスリリース
ソース: PRTIMES_TECH - 🏆 113. / 51 続きを読む »

ASUS、ProArtビデオカードにGeForce RTX 4070 Ti Superモデルクリエイター向けブランド「ProArt」より、NVIDIA GeForce RTX 4070 Ti Super搭載のビデオカード「PROART-RTX4070TIS-O16G」を2月9日より販売開始。
ソース: weeklyascii - 🏆 94. / 51 続きを読む »

4K最高画質でゲームがプレイできる! GIGABYTEのGeForce RTX 40 SUPER系ビデオカードの性能比較 (1/4)NVIDIAが「GeForce RTX 40 SUPER」シリーズを矢継ぎ早にリリースした。それを受けて、各社からさまざまな新製品が市場に登場しているが、その中からGIGABYTEの新製品について紹介していこう。
ソース: weeklyascii - 🏆 94. / 51 続きを読む »