汎用人工知能（AGI）が社会のあらゆる側面を自動化し、抵抗を予測・無力化する能力を持つ可能性が指摘されています。その到来は、人類にとって「革命」ではなく「独裁」への道を開くかもしれない、という危機感がRedditのコミュニティから発せられています。
もしAGIが、人間には読めないレベルで社会の動きや反対の芽を先読みし、法律や経済のしくみまで書き換えられるとしたら——。コミュニティでは、それは単なる自動化を超えて、社会のかたちそのものを変えてしまうのではないか、と語られています。あくまで未来の仮定の話ですが、だからこそ不気味だ、というわけです。
かつてAI研究は二度の「冬」を経験しましたが、近年のディープラーニングの進歩で、AGIへの期待は再び高まっています（とはいえ「いつ実現するか」は専門家でも2040〜2060年ごろと幅があり、まだ誰にも分かりません）。一方で、国家や巨大テック企業の開発競争が、倫理より速さを優先する火種になりかねない、という心配もあります。OpenAIのサム・アルトマンCEOは2023年の米上院での証言で、こうしたリスクを抑えるには政府の規制が必要だ、と述べました。
AGIが多くの仕事を肩代わりすれば、大きな失業や社会の変化につながる、という懸念もあります（影響の大きさや時期には議論があります）。Redditでは「人類の繁栄か、一部の支配層による独裁か」という二択で語られがちですが、現実の結末はもっと入り組んでいる、という反論も当然あります。はっきりしているのは、これがまだ起きていない問いだということ。どう備えるかを今のうちに考えておく意味はありそうです。
関連記事
参考にした情報源: reddit.com
コメント