人工知能の悪影響

人間の思考を模倣したり、それを超えたり、さらには自己認識したりできる機械の開発は、サイエンス フィクションの前提としてよく研究されています。今日の技術情勢において、人工知能 (AI) の出現は人類の最大の成果の 1 つになる可能性がありますが、有名な物理学者スティーブン ホーキングが警告したように、「リスクを回避することを学ばない限り、それは最後になるかもしれません。」

自動化の増加:引き金を引くのは誰?

デジタル パーソナル アシスタントや Google のスマート検索アルゴリズムから、実験的な自動運転車に至るまで、高度な技術が現代社会に組み込まれ続けています。人工知能は、「論理的な演繹と推論」を実行し、「過去の経験または不十分な情報や矛盾する情報に基づいて意思決定を行う」ことができるコンピューターまたはマシンとして定義されています。現在の技術レベルでは、軍事用ドローンやその他のロボット システムを、人間が直接関与することなく標的に対して致死力を行使するように設計する必要があるかどうかなど、すでに恐ろしい倫理的ジレンマが生じています。現在、プログラムされたマシンは、人間のオペレーターよりも高速かつ正確に反応できますが、意思決定を導く人間の偏見や直感がなければ、依然として重大なエラーが発生する可能性があります. AI がそのようなシステムに組み込まれ、完全に予測不可能な独立した動機が導入されたり、人間の意図と直接対立したりすると、これらの問題は激化します。

市場の変革

人工知能の導入は、人類の仕事の概念を大きく変えます。工業化の時代以降、あらゆる種類の技術は必然的に多くの仕事を時代遅れにする一方で、新興分野で新しい機会を生み出しています。 AI は、機械が私たちの代わりにタスクを実行する未来を提供し​​、人々が余暇の生活を追求できるようにします。経済学者のジョン・メイナード・ケインズは、1930 年に、2030 年までに 1 週​​間の労働時間が 15 時間になると予測していました。現在の人口レベルでは、社会のあらゆる側面で、文化的にも経済的にも抜本的な再構想が必要になるでしょう。日々の過ごし方に劇的な変化をもたらします。

AI:味方か敵か?

人工知能の重大な脅威の 1 つは、すでに強化された能力を使用して、さらに優れた認知能力を持つ機械を作成することを選択するかどうかです。高度な世代の AI は、私たちが動物の上で行うのと同じくらい人間の上で動作する可能性があり、それを理解する人間の能力を超えて進化する可能性さえあります。この結果 (1993 年に NASA ルイス研究センターの VISION-21 シンポジウムで Vernor Vinge 博士によって特異点と呼ばれた) では、私たちが知っている生活のルールは永遠に変化します。共存するか、人類に敵対するかを決めるでしょう。

災害からの保護

ホーキング博士は、人工知能に関する真剣な議論は、潜在的な脅威とその対処方法を考慮に入れる必要があることを強調し、人工知能の作成におけるブレークスルーの実現に向けて企業のリソースが増加しているため、より重要な組織的研究を求めています。 Vinge は、サイエンス フィクション作家のアイザック アシモフのロボティクスの 3 つの法則で想像されているように、AI は自律型ロボットに慈悲深い行動を効果的に組み込むルールによって厳しく規制できると仮定しています。 Vinge はまた、自然な人間の競争は制限のない AI モデルの開発につながる可能性が高いため、そのような保護策でさえ、シンギュラリティが発生した場合にそれを制御するには不十分である可能性があると警告しています.