書き散らし。ChatGPTを触って、また他の情報収集をするにあたってその本質が何となーく理解できた(気がする)ので書く。
画像生成AIに似ている
最近になって思ったのがこれ。画像生成AIと同じようにテキストから求められているものが何なのかを計算し、「それっぽい回答」を提示する。たまに本当にそのまま使えそうなレベルのものもあれば、明らかにデタラメな生成物が出てくることもある。そのクオリティには明らかにバラつきがあるし、一見ものごとを理解しているように見えても時たまとんでもない大嘘を返して来る。
そうした点でChatGPTと画像生成AIは似ている。以前StableDiffusionに関する記事でも書いたが、そこには「理解しているらしい挙動」はあっても、真に物事を「理解する」だけの知性は無い。
たとえば画像生成AIに「stairs(階段)」という単語を入力すると、一見それらしい構造が画像の中に描写される。しかし階段なのに上と下とでどう見ても段差が無いような絵になっている(だまし絵みたいな)場合がある。
なぜそうした事が起こるのか。AIには「階段とはこういう風に描かれるもの」という特徴を捉えることは可能で、それを画像として再現することも可能ではあるのだが、「階段は人間が段差を上り下りしやすいようにするための構造物」であることまでは”理解”できないからだ。
同じように、ChatGPTも人間がこれまで交わして来た文章や議論の内容を学習し、それっぽい回答を再現しているだけであって、そこには人間の営みや現実世界における現象、物事の定義、物事の調べ方といった事への”理解”は無い。
なので、前の記事でも貼ったように「薩摩ホグワーツとは何か」といった質問にこのようなデタラメな回答が出て来てしまう。普通、薩摩ホグワーツが「観光施設」だと思ったのなら地図で調べるなり何なりしてその存在を確認する筈だが、ChatGPTはそうした事をしない。物事の調べ方がどうあるべきか、といった事まで”理解”はしていない。
非正規雇用と少子化問題との関係について質問した時に返って来た答えも性善説的な内容であったし、日本語と英語で質問するのとでは回答の内容が違うなど、決して知能として安定している訳でもない。画像生成AIよりは回答に対する満足度が高いかもしれないが、それは出力する前によりそれらしい回答に見えるよう、体裁を整える機能があるのだろう。あくまで文章でのやり取りなので、画像生成ほど複雑な処理は必要ない。
日本語と英語で質問すると返って来る答えが違うのはおそらく、学習に使用した日本語の文書と英語の文書で同じような質問に対する回答が異なるからだろう。質問する言語によって回答が変わるという現象だけ見れば興味深い。
結局何が言いたいのか
ChatGPTはかなり面白いモデルであり、画像生成のそれと同様にいろいろ触って遊んでみることは大いにすべきである。が、そこには一部の人々が思っているような恐るべき知能はまだ無い。画像生成AIほど分かりやすく粗が目立つ訳ではないものの、程度としては似通っているように思う。ただ「それっぽい何か」を提示してくれるだけであり、まだ発展途上の段階で道具の域を出ない。
何かをする時の参考のためにいろいろ質問してみる、議論の練習をする*1、アイデア出しに使うといった程度なら、言い方が何だがいい遊び相手になってくれる。
しかしそこに万能の叡智があるかのように勘違いしてしまうと、思わぬ方向へと誘導されることになる。そこで求められるのはChatGPTからの回答をそのまま受け入れる事ではなく、人間としてそれが本当に正しい回答なのかを見極める力だろう。
そうでなければ、人間は勝手にまだまだ子どものAIを全能の唯一神のように勝手に勘違いし、勝手にその言うことを信じて勝手に自滅するという事になりかねない。AIはまだまだ道具であって、その良し悪しはそれを使う人間によって決まる。道具に振り回されているようでは良くない。
とはいえ
ChatGPTと画像生成AIにはもう１つ共通する、良い点があると感じた。それは「掘れば掘るほど面白い」ということ。画像生成AIが詠唱(生成する画像を指定する文字列)の質によって生成する画像の質を変えるように、ChatGPTも質問する内容によって回答の質が変わる。
なのでちょっと質問して満足するのではなく、質問の仕方や内容をあれこれ変えて質問して行けば擬似的な議論や気づきを得ることが出来る。これまでは他人や教師からしか得られなかったようなものが自己完結で得られるかもしれない。それも全く気兼ねすることなく、自分の都合の良いタイミングで質問することが出来るというのは使いようによってはとても大きな武器になる。対応する知識の幅も広い(画像生成AIをColab上で動かす際にもお世話になってます)。
反面、そうしてAIを活用するだけの力が無い人間にとっては格差を拡大させる原因になり得る側面もあるのだが。いわばAIは金鉱脈を掘るための掘削重機のようなもの。かなり便利で効率が良いが、それを正しく使いこなすためにはそれなりにスキルが要る。それが出来ない人間はこれまで通り"手堀り"で行くしか無い。となれば、出来る人間とそうでない人間との差は開いて行く。
余談：ChatGPTで国会の質問を作る是非
最近、立憲民主党の中谷議員がChatGPTに作成してもらった質問を国会で岸田総理に投げかけて話題を呼んだ。が、その使い方には問題がある。
国会で提示されたフリップを見ると中谷議員は
「あなた(ChatGPT)が日本の衆院議員だとしたら、(~法案名~)について国会で岸田総理にどんな質問をすべきだと考えますか」
とChatGPTに質問したようである。
ChatGPTと法案の内容について事前に擬似的な議論を行い、その中で得られた知見を生かして自分で質問の内容を考えるならまだしも、まるで小間使いにするように質問を作る作業を丸投げするような方法ははっきり言って愚かでしかない。質問の内容も曖昧で、これで作成できる質問は人間でも限界があるだろう。それでもせめて話題性だけでも得ようという浅はかさまで透けて見える。
自分で質問の１つも考えられないなら議論の場から退場すべきであるし、ChatGPTを使うにしても使い方がまるで分かっていない。遊びで国会議員をやっているならさっさと辞職して欲しい。岸田総理とのやり取りはいつにも増して何かのごっこ遊びにしか見えなかった。彼らは”議論”しているのか、それとも”議論ごっこ”をしているのか。
少し脱線するが、最近NHKのニュースを見るのが辛い。特に国会でのやり取りは昔っからそうだが本当に茶番か何かにしか見えない。本当に必要な議論は行われているのか。下手したらChatGPTを活用した高校生あたりの方が良い議論が出来るのではないか。あんまりだ。
*1:私は～と思うがそれについて反論してと言えば反論してくれる
