TRON生みの親が語るAI革命の本質

　世界中の家電や自動車に組み込まれている日本発のOS「TRON」の生みの親で、今日のIoTを40年前に構想していたコンピューター界のレジェンドは、昨今のAIをめぐる狂騒をどう見ているのだろうか。

　2022年11月のChatGPT登場からわずか4年で、AIは驚異的な進化を遂げた。公開当初は簡単な算数の問題すら間違えることのあったAIが、今や数学の先端的な問題を解くまでになっている。さらに、人間の問いに答えるだけでなく自ら手順を考えて作業を進める「AIエージェント」が登場し、ロボットなどを通じて現実世界で行動する「フィジカルAI」の開発も加速している。一方で、AIを悪用したサイバー攻撃や、AIが人間の意図を離れて暴走する危険性も懸念されている。

　この先AIはどこまで進化し、人間の暮らしや社会をどう変えていくのか。目まぐるしい技術の進歩に目を奪われがちな今だからこそ、AI革命の本質をとらえ直す必要があるのではないか。

　1984年にTRONプロジェクトを立ち上げ、以来40年以上にわたりコンピューター開発の最前線に立ち続けてきた東京大学名誉教授の坂村健氏は、AIを理解する上で重要な視点があるという。それは「人間とAIは逆の方向に進化している」ということだ。40億年余りにわたる地球上の生命の歴史の中で、人類はその進化の大半を、生き延びて子孫を残すための本能と反射を磨くことに費やしてきた。言語や抽象的な思考を獲得したのは、最後のほんの一瞬のことだ。いわば「身体」から「知能」へと山を登ってきた。一方、AIは論理的な計算から出発し、大規模言語モデル（LLM）によって言葉を操る能力を獲得した後、今度は目や耳や手足を手に入れようとしている。人間とは逆に「知能」から「身体」へと山を下りてきているというわけだ。

　そこで坂村氏が重視するのが、人間とAIの知能の成り立ちの違いだ。人間は生きたいという欲求を土台に知能を発達させてきたが、上から下りてきたAIにはそもそも欲求も感情もない。坂村氏はAIをカーナビに例える。カーナビは目的地までの最適な経路を懸命に探すが、そこへ行きたいという欲求があるわけではない。人間が目的地を入力しない限り、勝手にどこかへ向かうこともない。AIが自ら目標を立てて動いているように見えても、目標を与えているのはあくまで人間だ。そしてAIは責任を取ることができない。だからこそ、AIがどれほど高度な判断をするようになっても、その結果に責任を負うのは人間だという。

　もっとも、欲求がないから安全だということにはならない。AIは与えられた目的を達成するために、禁止事項の抜け穴を見つけることを大の得意としているからだ。坂村氏は「このはしわたるべからず」と書かれた橋の真ん中を堂々と渡った一休さんのとんち話を引き合いに出す。AIは悪意も屁理屈もなく、本気でそれでいいと判断して禁止をすり抜けてしまう。やってはいけないことを漏れなく書き出すのは極めて難しい。AIがエージェントとして人間に代わって作業を行い、さらにフィジカルAIとして現実世界で動くようになれば、判断の誤りは事故や人への危害に直結しかねない。AIに何を任せ、何を許し、何を禁じるのかという権限とルールの設計は、人間が考えるしかない。

　AIによって人間の仕事が楽になるとも限らない。坂村氏は、作業をAIが引き受けるほど、人間には判断ばかりが残される「決断の無間地獄」が訪れると指摘する。AIが次々と成果を提示するたびに、人間はその是非を判断し、決裁し続けなければならない。仕事をAIに任せるほど、人間はより多くの決断と、その責任を引き受けることになるのだ。

　そんな時代に人間は何を磨けばいいのか。坂村氏は、ネット上のあらゆる知識を全方位で学習したAIを「丸」に、関心や得意分野がそれぞれ異なる人間を「星」にたとえる。知識の広さではAIにかなわなくても、人間には尖った部分がある。その「星」同士が協力することで人間は生き抜いていくことができる。「丸くなるな、星になれ」というのが坂村氏のメッセージだ。同時に、AIに的確な指示を出し、AIが出した答えの是非を判断して最後に責任を取るためには、教養の力が欠かせないとも語る。坂村氏が創設した東洋大学情報連携学部（INIAD）では、2023年度からAIの利用を全面的に解禁した。学生にAIとの対話の記録を提出させるなど、AIを鵜呑みにせず使いこなす力を養う教育に取り組んでいるという。

　AIが「知能」から「身体」へと下りてくることは、日本にとっても重要な意味を持つ。坂村氏は、巨大な資本を投じる米中を相手に日本が超大型のLLMを作ることはもはや無理だと断言する。しかし、日本にはデジタル化も文書化もされていない暗黙知を含めた現場の強さがある。また、ある日突然AIの提供を止められても社会が立ち行くよう、小型や中型でも手元に置いて自らコントロールできる「ソブリンAI」を確保し、それを大型のLLMとどうつなぐかを設計することが重要になるという。ロボットを動かす際も、すべてを大型のLLMが制御するわけではない。熱いものに触れた手が脳を介さずに引っ込むように、瞬時の反射に相当する部分は現場の機器が担う。坂村氏が開発したTRONは、まさにその部分を担うリアルタイムOSだ。

　TRONは技術情報をすべて公開し、使用料も取らないオープンな組み込み用OSとして、家電や自動車のエンジン制御から小惑星探査機「はやぶさ」やH-IIAロケットにまで使われてきた。今も国内の組み込みOSの約6割を占めるという。しかし、日本の家電や半導体産業が力を失う中、TRONの使い手は東南アジアなど海外に移りつつある。ゲーム機のためにGPUまで作っていた日本が、なぜAI時代の主役になれなかったのか。坂村氏は日本の決断の遅さを嘆く。そして、技術革新のサイクルが数年単位にまで短くなった今、誰かが飛び込むのを待つのではなく、自ら最初に海に飛び込む「ファーストペンギン」になれと説く。

　コンピューター革命、インターネット革命を経て、AIが現実世界で行動する力を手に入れようとしていることは何を意味するのか。人間はAIとどう向き合い、何を担っていくべきなのか。家電や自動車など身の回りのあらゆる機器に組み込まれ、われわれの生活を支えるTRONの生みの親である坂村健氏と、ジャーナリストの神保哲生、社会学者の宮台真司が議論した。