ニュース

Jan 16, 2024

AI クリエイターが語る、リスク、機会、そして人間を「退屈」にさせる仕組み

Questo video non può essere riprodotto Capo AI: scenario peggiore controllabile

このビデオは再生できません

AI のボス: 人類を支配する可能性がある最悪のシナリオ

「人間ってちょっと退屈だよ、さようなら！」 これは、おそらく聞いたこともないであろう最も重要な人物の 1 人による個人的な予測です。人工知能 (AI) が多くの役割で人間に取って代わるというものです。

エマド・モスタク氏はテクノロジー企業Stability AIの英国人創設者。 これは、AI を使用してオンラインで見つかった画像を分析し、単純なテキスト命令から画像を作成するツールである Stable Diffusion を普及させました。

AI により、コンピューターはより人間のように考えたり、行動したりできるようになります。 これには、機械学習と呼ばれるものが含まれており、人間がキーボードの前に座ってコマンドを打って正確な指示を与えなくても、コンピューターが何をすべきかを学習できます。 先月、1,000人の専門家から、潜在的なリスクを警告し、AIシステムの開発競争は制御不能になっているとし、その開発を一時停止するよう劇的な警告が発せられた。

日曜日に完全版をお見せするインタビューの中で、テクノロジー創設者のモスタク氏は、「私たちよりも有能なエージェントがいて、私たちが制御できず、インターネット上を移動し…そして彼らが自動化レベルを達成したら、何が起こるのか」と質問しています。ということですか？

「最悪のシナリオは、それが増殖し、基本的に人類を支配することです。」

それは恐ろしいことのように聞こえますが、もし私たちが自分たちよりも賢いコンピューターを作ってしまったら、次に何が起こるか分からないというリスクを指摘しているのは彼だけではありません。

モスタク氏は、リスクが突然現実となる出来事が起きれば、政府はすぐに衝撃を受けて行動を起こす可能性があると考えている。 彼は、トム・ハンクスが新型コロナウイルス感染症に感染し、何百万人もの人々が起き上がって注意を払った瞬間を指摘した。

そのような瞬間が到来すると、各国政府は「今こそ政策が必要だ」と結論付けるだろうと40歳の男性は言う。

たとえば、ジョー・バイデンに対する共和党の攻撃広告がコンピューターで生成された偽の画像を使用して作成された後、懸念が急増した。

有権者が信頼できる情報にリスクがある場合、政府はそれに対応しなければならない、とモスタク氏は言う。

モスタク氏は懸念をよそに、私たちの生活のほぼあらゆる部分にAIがもたらす潜在的なメリットは非常に大きい可能性があると語る。 しかし、少なくとも当初は雇用への影響が苦痛となる可能性があることを同氏は認めた。

モスタック氏は、AIが「パンデミックよりも経済に大きな影響を与える」と信じていると述べ、これが「どちらの方向に進むかを決めるのは私たち次第」だと付け加えた。

一部の雇用は間違いなく失われるだろう、ゴールドマン・サックス銀行は、ほとんど理解できない3億の役割がテクノロジーの進歩によって失われるか減少する可能性があると示唆した。

誰もロボットに置き換えられることを望んでいませんが、モスタク氏の希望は、「生産性の向上によりバランスが取れ」、人間が人間たらしめる事柄に集中し、残りの多くを機械に任せることができるため、より良い雇用が創出されることです。 彼は、AI の進歩とその影響は産業革命よりもさらに大きいことが判明する可能性があるという英国の元首席科学顧問パトリック・ヴァランス卿の意見に同意します。

モスタク氏は控えめな数学者で、2020年に設立したばかりの会社の創設者で、その会社の価値はすでに10億ドルと評価されており、ハリウッドスターのアシュトン・カッチャーらからの流入を含め、さらに多くの現金が流入しており、近いうちにさらに価値が上がる可能性が高い。 一部の憶測では、その価値は40億ドルに上ると言われています。

一部の競合他社とは異なり、彼は自分のテクノロジーがオープンソースであり続けると決意しています。言い換えれば、誰でもコードを見て、共有し、使用することができます。 彼の見解では、それが国民に何が起こっているのかについてある程度の信頼を与えるはずだという。

「信頼する必要はないはずだと思います」と彼は言う。

「オープンモデルを構築し、それを公開で行う場合、間違ったことをすれば批判されるべきであり、正しいことをすれば賞賛されることが期待されます。」

しかし、彼のビジネスは所有権や何が真実なのかについての深刻な疑問も引き起こします。 写真代理店ゲッティイメージズは、同社が販売する画像の権利が侵害されたとして、彼らに対して訴訟を起こしている。

これに対してモスタク氏は、「歩き回って物を見ているロボットがあるとしたら、何かを見つけたら目を閉じなければならないだろうか？」と言う。

それでその会話が終わる可能性はほとんどありません。

この起業家は、これから起こることの規模は巨大であると確信している。 同氏は、10年後には彼の会社とAIのリーダー仲間であるChatGPTとDeepMindがGoogleやFacebookよりもさらに大きくなると考えている。 テクノロジーに関する予測は、政治に関する予測と同じくらい注意が必要です。知識に基づいた推測ですが、完全に間違っていることが判明する可能性があります。 しかし明らかなことは、AI のリスクと現実についての公の場での議論が現在進行中であるということです。 私たちは、一企業、一国、政治家が管理するには大きすぎる大規模な変化の真っ只中にいるのかもしれません。

ジェームズ・ワットが蒸気エンジンの特許を取得してから 50 年以上後、最初の蒸気機関車がダーリントンの線路に沿って走りました。 今回は、これらの新しいアイデアに慣れるのにそれほど時間がかかる可能性は低く、退屈になる可能性は低いです。

明日の日曜日、ローラ・クエンスバーグとのエマド・モスタクとの会話の詳細は、BBC One またはここ iPlayer でライブでご覧いただけます。

Twitterでローラをフォローしてください

AI画像クリエイターが英国と米国の法的問題に直面

人類に対する高度な AI のリスク - テクノロジー リーダー

AIは3億人の雇用に影響を与える可能性がある - レポート

イーロン・マスク氏、ツイッターの新CEOにリンダ・ヤッカリーノ氏を任命

Google、Microsoftと競合するAIアップデートを明らかに