
「ターミネーター」や「マトリックス」など発達しすぎたAI(人工知能)が人間の脅威となるSF映画はどんな人にとっても身近な作品ではないでしょうか?
このような映画が創り出した人工知能に対するイメージもあり、AIが発展していく中で「AIに危険はないのか?」「映画みたいにAIが反乱を起こすことはないのか?」という議論が絶えません。
Chat GPTを作り出したOpen. AI CEO サム・オールトマンも主張するように「AIは生き物ではなくツールである」ということです。
それでもなぜAIパニックが起こるのか?
「モザイク」という 画像を扱えるようになった初のWebブラウザを作ったソフトウェアエンジニアでもある、Marc Andreessenが「Why AI Will Save the World」という記事を出して話題となりました。
彼の主張が正しいかどうかは置いておいて、彼の主張は面白いと思いました。新たな視点を与えてくれたので、その内容の一部を共有します。
以下は彼の記事の抜粋です。
AIが全てのことを改善してくれる?
社会科学の多くの研究を通じて最も確立された核心的な結論は、人間の知性がさまざまな生活の成果を大幅に向上させるということです。より賢い人々は、学業成績、仕事のパフォーマンス、職業的地位、収入、創造性、身体的健康、寿命、新しいスキルの習得、複雑なタスクの管理、リーダーシップ、起業の成功、紛争解決、読解力、金融の意思決定、他者の視点の理解、創造的な芸術、育児の結果、そして生活の満足度のほとんどすべての領域でより良い結果を得ます。
さらに、人間の知性は、科学、技術、数学、物理学、化学、医学、エネルギー、建設、交通、コミュニケーション、芸術、音楽、文化、哲学、倫理、道徳など、私たちが今日の世界を創り出すために数千年間使用してきたレバーでもあります。知性をこれらの領域に適用しなければ、私たちはみな今も小屋で暮らし、生存農業の苦しい存在をかじっていることになるでしょう。代わりに、私たちは知性を用いて過去4,000年間で生活水準を10,000倍以上向上させました。
AIが私たちに提供するものは、人間の知性を深く拡張し、知性の成果を遥かに改善する機会です。新しい薬の開発、気候変動の解決策、星に到達するための技術など、さまざまな領域でAIによる人間の知性の拡張が既に始まっています。AIはすでに私たちの周りに存在し、ChatGPTのようなAI大規模言語モデルを通じて急速に拡大しており、私たちがそれを受け入れれば、これからさらに急速に進展するでしょう。
具体的な予想
新しいAIの時代においては以下のようなことが可能となるでしょう。
すべての子供には、無限の忍耐力と無限の思いやり、知識、助けを持つAIチューターが与えられます。AIチューターは、子供の発達のすべての段階で彼らのそばにいて、機械版の無限の愛によって彼らの可能性を最大限に引き出すために手助けをします。
すべての人には、無限の忍耐力と無限の思いやり、知識、助けを持つAIアシスタント/コーチ/メンター/トレーナー/アドバイザー/セラピストが与えられます。AIアシスタントは、人生のあらゆる機会と課題においてわたしたちをサポートし、すべての人の成果を最大限に高めます。
すべての科学者は、科学的な研究と成果の範囲を大幅に拡大するAIアシスタント/共同研究者/パートナーを持つことになります。すべての芸術家、エンジニア、ビジネスパーソン、医師、介護者も同様です。
CEO、政府の役員、非営利団体のトップ、スポーツのコーチ、教師など、人々を指導するリーダーはみな同じようにAIを持つことになります。彼らが率いる人々によって起こる、より良い意思決定の倍増効果は非常に大きいため、この知性の拡張はおそらく最も重要なものとなるでしょう。
経済全体の生産性の成長は急速に加速し、経済成長、新しい産業の創出、新しい雇用の創出、賃金の成長を推進し、地球全体で物質的な繁栄が高まる新たな時代をもたらすでしょう。
AIが自然の法則を解読し、私たちの利益のためにそれらを利用する手助けをすることで、科学的な突破口や新たな技術、医薬品が大幅に拡大するでしょう。
AIによって補完された芸術家、音楽家、作家、映画製作者が、従来よりもはるかに速く、より大規模に彼らのビジョンを実現させることができます。また現在人々の知性によって行われていることは、AIによってはるかに優れた方法で行われることができるだけでなく、AIなしでは解決することが不可能だった新たな課題に取り組むことができるようになります。すべての病気を治療することから宇宙旅行を実現することまで。
戦争が起きかねない場合には、AIが戦争を改善し、戦時の死亡率を劇的に減少させると私は考えています。すべての戦争は、非常に限られた情報の中で非常なプレッシャーの下で行われ、非常に制約のある人間の指導者によって恐ろしい決断が下されることで特徴付けられています。しかし、将来的には、軍の指揮官や政治指導者はAIのアドバイザーを持つことができるでしょう。それにより、彼らははるかに優れた戦略的・戦術的な決定を下し、リスクや誤り、不必要な流血を最小限に抑えることができます。
そして、これは単に知性に関することではありません!AIの最も過小評価されている特性は、どれほど人間的になることができるかということです。AIによる芸術は、技術的なスキルを持たない人々にアートのアイデアを自由に創造し共有する自由を与えます。共感的なAIの友人との会話は、彼らが逆境に対処する能力を向上させます。そして、AIの医療チャットボットはすでに人間の対応よりも共感的です。AIによって世界が厳しく機械的になるのではなく、無限の忍耐と思いやりを持つAIは、世界をより温かく、より良い場所にするでしょう。
これらの理念は、AIが持つ可能性を示しています。AIの進化が私たちの生活と社会にもたらす影響は、非常に大きなものとなるでしょう。
では、なぜパニックなのか?AI怖いと思ってしまうのか?
この肯定的な見方とは対照的に、AIに関する公的な議論は現在、ヒステリックな恐怖と偏執症に満ちています。
AIが私たち全員を殺す、社会を破壊する、仕事を奪う、深刻な不平等を引き起こす、悪い人々が恐ろしいことをする手段となるなどAI怖いと思ってしまう主張を耳にします。
なぜ、近未来のユートピアから恐ろしいディストピアへと、潜在的な結果がこうも異なるのでしょうか?
歴史的に見て、電灯から自動車、ラジオ、インターネットなど、重要な新技術は常に道徳的なパニックを引き起こしてきました。これは社会的な伝染病であり、新技術が世界や社会を破壊すると人々を納得させるものです。Pessimists Archiveの素晴らしいチームは、数十年にわたる技術に関連する道徳的なパニックを文書化しており、その歴史はこのパターンを明確に示しています。現在のパニックさえも、AIに関する最初のものではありません。
確かに、多くの新技術が悪い結果をもたらしてきたと言えます。これらの技術は、私たちの福祉に非常に大きな利益をもたらしたにもかかわらずです。ですから、道徳的なパニックが存在するということは、心配事が何もないということではありません。
しかし、道徳的なパニックはその性質上、非合理的です。それは合法的な懸念を取り上げ、ヒステリックなレベルに膨らませることで、実際に深刻な懸念に立ち向かうことを困難にする皮肉な状況を生み出します。
そして、現在、AIに関する完全なる道徳的パニックが起こっているのです。
この道徳的パニックは、既にさまざまな行為者によって政策の実行を求める動機づけ要因として利用されています。AIの危険性について非常に劇的な公の発言をしているこれらの行為者は、道徳的パニックを煽り立て、さらにでは、なぜパニックなのでしょうか?
この肯定的な見方とは対照的に、AIについての公の議論は現在、ヒステリックな恐怖心や不信感に満ちています。
AIが私たちを皆殺しにする、社会を台無しにする、仕事を奪う、深刻な不平等を引き起こす、悪人によって悪事が容易になる、などという主張がなされています。
では、なぜこのような未来の理想郷から恐ろしいディストピアまで、潜在的な結果がこれほどまでに異なるのでしょうか?
歴史的に見て、重要な新技術は常に道徳的なパニックを引き起こしてきました。電気照明から自動車、ラジオ、インターネットまで、新技術が世界や社会を破壊するという社会的な恐怖が広まるのです。過去数十年にわたって、Pessimists Archiveの方々がこのような技術による道徳的パニックを文書化してきました。彼らの歴史は、このパターンをはっきりと示しています。そして、現在のAIに関するパニックも、実は初めてではありません。
もちろん、多くの新技術が悪い結果をもたらしてきたと言えます。それでもなお、それらの技術は私たちの福祉に非常に大きな利益をもたらしてきました。ですから、道徳的なパニックが存在するということは、心配事が全くないわけではありません。
しかし、道徳的パニックは本質的に非合理的です。それは正当な懸念を誇張し、ヒステリックなレベルまで増幅させるものであり、皮肉なことに実際の深刻な懸念に対処することを困難にします。
そして、現在、AIに関する道徳的パニックが拡大しているのです。
この道徳的パニックは、既にさまざまな行為者によって政策の実行を要求する動機づけの要因として利用されています。これらの行為者は、AIの危険性について非常に劇的な公の声明をし、道徳的パニックを煽り立てることで利益の追求ではなく公益のための無私そして、それらの行為者は正しいのでしょうか、それとも間違っているのでしょうか?
AIの洗礼者と密造酒商人
経済学者は、このような改革運動における長年のパターンを観察してきました。このような運動内の行為者は、「洗礼者(Baptists)」と「密造酒商人(Bootleggers)」の2つのカテゴリーに分けられます。これは、1920年代のアメリカでのアルコール禁止法の歴史的な例に基づいています。
「洗礼者」は、新たな制約、規制、法律が社会的な災害を防ぐために必要であると、合理的でなくとも深く感情的に信じる社会改革家です。アルコール禁止法の場合、これらの行為者はしばしば文字通りの信心深いクリスチャンであり、アルコールが社会の道徳的な基盤を破壊していると感じていました。AIのリスクに対しては、AIがある形態の存在的リスクを示していると真剣に信じている真の信者たちがこれに当たります。
「密造酒商人」は、新たな制約、規制、法律の導入によって競争相手から隔離され、経済的な利益を得る自己利益の追求者です。アルコール禁止法の場合、これらは合法的なアルコール販売が禁止されたときにアメリカ人に密造酒を売りまくって大金を稼いだ文字通りの密造酒商人でした。AIのリスクの場合、これらはCEOたちであり、規制上の障壁が設けられることによって新興企業やオープンソースの競争相手から保護された政府公認のAIベンダーのカルテルが形成され、彼らがより多くのお金を稼ぐことになります。これは、ソフトウェア版の「破綻しても大丈夫な銀行」です。
シニカルな見方では、一部の明白な洗礼者もまた密造酒商人であると指摘されます。具体的には、大学、シンクタンク、活動家グループ、メディア機関からAIを攻撃するために給与や助成金を受け取る人々です。もし給与や助成金を受け取ってAIの恐慌を促進するような活動をしているのであれば、おそらくあなたは密造酒商人です。
密造酒商人の問題は、彼らが勝つことです。洗礼者は単純なイデオローグであり、密造酒商人はシニカルな運営者です。そのため、こうした改革運動の結果は、しばしば密造酒商人が望む結果、つまり規制の独占、競争からの隔離、カルテルの形成が実現し、洗礼者たちは社会改善の志向がどこで間違ったのか疑問に思うことになります。
したがって、実際には洗礼者が真摯であり、また洗礼者が正しい場合でも、それらは悪意のある密造酒商人によって自己利益のために利用されるのです。
そして、これが現在のAI規制の推進に起こっていることです。
ただし、単に行為者を特定して動機を非難するだけでは不十分です。洗礼者と密造酒商人の主張をその内容に基づいて考慮するべきです。
Comments