東京永久観光

【2019 輪廻転生】

茂木健さんと鈴木健さんの会話(LLMをめぐって)

全部同感(私がわかる範囲に限れば)

SmartNews ファウンダーの鈴木健さんに聞く、LLMからAGIへの道)

 

鈴木「RNAワールドができたときのような…」

 

鈴木「ハルシネーションこそがむしろなんかトランスフォーマーの可能性なんじゃないですか 人間もそうですけど アブダクションとか…」

 

鈴木「ジェネラルなインテリジェンスの定義なら(AGIは)人間と関係なくていいわけですよ」(これは松尾豊さんの考えと同じっぽい)

 

鈴木「(人間の)知能というときにクオリア問題抜きにいけるのかみたいな…」

茂木「いや いけないと思いたい…」

 

鈴木「相転移が起こっているというのは擬似問題なんじゃないか」「人間の言語程度の複雑さ(語彙10万程度)を理解する程度において ちょうどそのタイミングに来たというだけじゃないか」「人間の言語より複雑なものを相手にするとしたらサチ(飽和)っていないんじゃない」

 

シンギュラリティの条件は?

鈴木「物理的に計算リソースを自己増殖的に解決できるか」「マテリアルサイエンスをAIが始めないと…」「それを発見するだけじゃなくて、実際に製造プロセスのサプライチェーンをAIが組み続けられるかだよね」

――太古に生物の細胞がそのソフトとハードを実現したごとく!

 

人間は労働しなくなる?

鈴木「ベーシックインカムを加えて果たしてそこ(必要十分条件)まで行くのかがポイント」 ただ実際起こっているのは「たくさんの人が仕事が亡くなっていく不安・心配」 そのとき「人間が生み出すものがたわいもないものでも金銭的対価を得られる仕組みが作られるのか?」

 

鈴木「人工知能による生産性拡大自体では社会の格差は解消しない」「貨幣システムや資本主義にメスを入れないかぎり」 では貨幣が政府管理でなくなるなどしたとき国家の役割は?「究極的には暴力の管理に行き着く」「分散的な暴力の管理が秩序を持ってできる仕組みを考えないと…深刻な問題になる」