東大 松尾教授が答える、ChatGPTとは何なのか？　

松尾氏　一時的なトレンドではない。使うと分かるが相当学習している。

やっている事自体は、次の単語を予測して表示しているだけだが、その過程で、相当複雑な概念も学習してしまっている。

これがいろいろな形で世の中に広がっていくのは間違いない。

　ChatGPTは、プロンプトエンジニアリングによって、新しいものを生み出している。

確かに学習しているのはネット上のデータだが、「新しい話を書いてください」と指示したとき、類型化と混ぜ合わせをやっている。　そして、だいたいの創造性は類型化と混ぜ合わせだと考えれば、（ChatGPTは）創造的なことをやっていると考えていていい。

松尾氏　騒然としている。いろいろな意味で、変わり目な感じがしている。

例えば、言語処理学会では「これで言語の研究はなくなるのか？」ということが言われたりしている。

アカデミアでできる研究が、これから先限られているのかもしれない。

　言語処理については、これまで問題を切り分けて、形態素解析とか構文解析、知識処理、推論とかで対応してきたが、

それらがほぼ同じ（大規模言語モデル、LLMという）アルゴリズムで一気に解けてしまうということだし、その範囲が言語処理を超えて、知識や教育、哲学などいろいろなものを含み始めている。普遍的な知のあり方に近づいている。

松尾氏　今までにない、変なものが生まれている感があって、プログラミングの概念とプロンプトエンジニアリングの間で、

      面白いことが起きている。例えば、ChatGPTに「あなたはスポーツジムの受付を担当するアシスタントです。

　　顧客と話してどのプランがいいか案内してください」とプロンプトを入れる。

そのとき、過去に申し込みした人かどうかを確認するときには、顧客DBにChatGPTがクエリ（問い合わせ）を投げなくて

はならない。

　ChatGPTでは、これがすべて（日本語の）プロンプトで書かれている。こんな変なプログラミングはありますか。

　ただ、法律とか規約とか手順書が機能するのも、“人間というLLM”がうまいようにやっているともいえる。

そう考えると、いままでのプログラミングのほうが変わったもので、LLM向けのプロンプトのほうが、人間社会では

これまで使われてきたともいえる。

松尾氏　日本もLLMを作ったほうがいい。何も作らないというのはあり得ない。

LLM開発にはいろいろなレイヤーがあって、LLMを作れる開発者、研究者を育てる必要がある。

　特化型のLLMとかローカル型のLLMがどういうアーキテクチャになるかというのもあり、少なくとも国内でやらないと

　いけない部分はある。国産検索エンジンの開発をやっていた1998年に時間が巻き戻ったとして、「結局、世界を取れなかった

　んだからやらなくてよい」とはならなくて、むしろもっとちゃんとやっておくべきだったとなるだろう。

新しい時代だからこそ、重要なテクノロジーや基盤技術はまず自分たちでもやるということだと思う。

Copyright © ITmedia, Inc. All Rights Reserved.

☞ 関連記事 LINK    AI研究者の松尾 豊氏が予測する未来

※ メール・BLOG の転送厳禁です!!  よろしくお願いします。