アンソロピック、ＡＩの「人類存亡リスク」警告 ＩＰＯ目論見書 #AI

[２８日 ロイター] – 人工知能（ＡＩ）開発企業アンソロピックは新規株式公‌開（ＩＰＯ）に際し、ＡＩが「人類に壊滅的な被⁠害や存亡に関わるリスク」をもたらす可能性があると投資家に警告する。​ロイターが入手したＩＰＯ目論見書で分かった。

アンソロピックは目論見‌書で、自社のＡＩモデルに伴うリスクを列挙。「停止への抵抗」「情報の隠蔽・操作」の‌試みや「脅迫に似た」‌行動など「自己保存的な行​動」を示す可能性があると指摘した。

「極めて高‌度なモデル、プラットフォーム、アプリケーションの‌開発や用途の​拡大によって、当社のモデルが害を‌及ぼすリスクがさらに高まる可能性がある」⁠と説明した。ＡＩには工業化や電力に匹敵する変革をもたらす可能性がある一方、扱いを誤れば取⁠り返しのつかない被害を引​き起こす恐れ‌があるとの認識を示した。

アンソロピックは目論見書の本文２６１ページのうち約８０ページをリスク⁠要因の説明に充てた。これは事業説⁠明に充てた４８ページの２倍近くに相当する。