トランプ、「AI人類滅亡説」を一蹴 「中国に勝つこと」を最優先と断言 #AI

共和党大会後にダラスを発つ際、駐機場で記者団の取材に応じたトランプは、AIが人類絶滅につながる懸念はあるかと問われた。

トランプはそれについては心配していないが、「AIで勝てなければ、我々は非常に悪い立場に置かれる」ことを懸念していると述べた。

大統領は米国が中国を「かなりの差でリードしている」と主張し、米国のAIは「1年……それはかなり大きな差と考えられているが」先行していることを示唆した。

その後トランプは、今年後半に予定されている中国の習近平国家主席のワシントン訪問に言及し、会談は「すばらしいものになる」と期待を示したが、AIに関する協議については触れなかった。

一部の研究者やAIセーフティ推進派は、より優れた安全上のガードレール（AIの暴走を防ぐ安全枠組み）が確立されるまで、米国と中国が協力してAI開発のペースを落とすべきだと提言している。

■AI研究者が発するリスクの警告

今週初め、米AIスタートアップAnthropic（アンソロピック）の元研究者ジェイコブ・コクソンは、安全性への懸念から同社を退職した後、X（旧Twitter）上で一連の投稿を行った。

OpenAIとAnthropicで（AIモデルの）事前学習に携わったコクソンは、業界をリードするこれら2社が「自己改良する超知能へとまっしぐらに突き進み、我々の命を賭けている」として、責任ある行動をとっていないと非難した。コクソンは、こうしたAIシステムを構築している人々が「今後10年以内にそれが我々全員を殺す可能性があると本気で信じている。これはマーケティング上の演出ではない」と指摘した。

コクソンの投稿は、Anthropicのアライメント・サイエンス責任者エヴァン・ヒュービンガーによってリポストされ、同氏は同僚たちが「AIが全人類を殺す可能性があると本気で信じている」と述べ、個人的には今後10年以内にそれが起こる確率は10%を超えると考えていると語った。

■米政界・政治指導者たちの反応

コクソンとヒュービンガーの投稿は、米国の超党派の議員や指導者たちから激しい反応を巻き起こした。AI規制の強化を繰り返し求めてきたバーニー・サンダース上院議員（無所属、バーモント州選出）は、「超知能を禁止しAI開発を一時停止する法案を提出する」とXに投稿し、「この技術を構築している張本人たちが、それが人類の未来を脅かす可能性があると認めているのだ」と述べた。

共和党のロン・デサンティス・フロリダ州知事はXに「これらの技術が人間の制御を逃れる可能性が少しでもあること自体が憂慮すべきだ」と投稿し、「テクノロジーは人間の経験を高めるべきものであり、決してそれに取って代わるものであってはならない」と付け加えた。

クリス・マーフィー上院議員（民主党、コネティカット州選出）もコクソンの投稿を指摘し、「彼が明確に述べている問題、すなわちAI企業が死の機械を先に作ろうとする盲目的な競争は、容易に解決できる。研究の継続を認めつつも、我々を破滅させない形で規制するシステムを構築すればよいのだ」とXに投稿した。

テッド・クルーズ上院議員（共和党、テキサス州選出）は、米国の人気トーク番組『The View』に出演した際にコクソンの一連の投稿について懸念を示し、上院の同僚議員たちとAIによる「壊滅的リスク」に対処する法案の策定を進めていると述べた。しかし、クルーズはトランプの見解に部分的に同調し、こう述べた。
「中国は全速力で突き進んでおり、我々がここで何をしようと中国は止まらない……もしキラーロボットが登場するのなら、中国のキラーロボットより米国のキラーロボットの方がいい」