短いテキストを入力すれば、すぐに非常に効果の優(yōu)れた60秒の動畫が完成する。米オープンAI社がこのたび打ち出した動畫生成AI（人工知能）モデル「Sora」に世界が驚愕している。

オープンAIはチャットGPTを発表してからわずか1年余りで、再び重量級の新モデルを打ち出した。テキストだけで動畫を生成するこのAIモデル「Sora」の素晴らしい點は何か。業(yè)界にもたらす影響とは。潛在的なリスクは何か。

オープンAIの公式サイトのスクリーンショット。

「Sora」には何ができる？

「Sora」が生成した複數(shù)のショート動畫の「大作」が、インターネットで次々に再生されている。動畫內(nèi)のシーンはリアルかつ自然で、細かい部分までよく作り込まれている。

オープンAIがAI動畫生成の分野に進出したのは今回が初めてだ。同社によると、「Sora」は深層學習モデル「トランスフォーマーアーキテクチャ」を使用し、テキストの指示に従ってリアルで想像力に富んだシーンを作り出し、様々なスタイル、畫幅で、最長1分間の高精細動畫を生成してくれる。

同社は、現(xiàn)時點で「Sora」が生成した動畫には、論理的におかしな畫像や、左右が逆といった空間の細部の混同、複雑なシーンの物理的原理や因果関係の実例を正確にシミュレーションできない狀況が起きる可能性があることを認めている。たとえば、人がビスケットを食べているのに、ビスケットに歯型が付いていない動畫が生成されてしまうといったケースだ。ただ、計算力が増強され、モデルの改良が進めば、短期間でより優(yōu)れた先進的な動畫生成機能を手に入れることができるとしている。

仕事を奪われるのは誰か？

一部のアナリストは、「『Sora』はAI技術の進歩が現(xiàn)実の世界と従來型業(yè)界に大きな影響を與えることを改めて浮き彫りにした。AIの動畫生成分野における極めて大きな発展の可能性は、映畫?テレビ産業(yè)の新業(yè)態(tài)の創(chuàng)出に向けて大きく扉を開くと同時に、既存の映畫?テレビ産業(yè)を破壊するおそれもある」との見方を示す。

「Sora」が生成した動畫のスクリーンショット。

「Sora」の発表翌日、畫像処理や動畫制作ソフトを主に手がけるアドビ社の株価はそれに応じて7％以上下落した。

ハリウッドでは昨年、63年ぶりとなる腳本家と俳優(yōu)によるストライキが行われた。同業(yè)界の仕事の一部がAIによって奪われるのではないかとの懸念がストの原因だった。「Sora」の登場で脅威はより差し迫った、現(xiàn)実的なものになっている。

「動畫があれば真実」は過去のものに

「Sora」の発表は、フェイク情報やフェイクニュースがアップグレードし続けていることも意味する。ショート動畫プラットフォームから情報を得ることに慣れたネットユーザーは、これからは動畫を気軽に信じられなくなる。

英國のブレッチリー?パークで、第1回AIセーフティサミットの宣伝パネルの前を通り過ぎる人（2023年11月2日撮影?李穎）。

現(xiàn)在のところ、映畫?テレビなど娯楽コンテンツ制作分野における「Sora」の応用に多くの人が注目しているが、実際には、「Sora」はニュースの制作方法とプロセスを変えることもできる。今や、技術を利用してねつ造されるフェイクニュースが次から次へと現(xiàn)れ、人々のニュースに対する従來の観念を変えてしまった。畫像とテキストの時代には、「畫像があれば真実」と考えられていたが、実は畫像も加工可能だった。動畫の時代には、多くの人が「動畫があれば真実」と思っていたが、內(nèi)容をすり替えるなどねつ造の手段が登場した。そして今、「Sora」が登場し、AIで動畫を直接生成することができるようになり、オリジナルの素材さえ不要になった。

この動きを受けて、中央民族大學新聞?伝播學院の郭全中教授は、「『Sora』の登場で動畫作成のハードルが大きく下がり、報道倫理が大きな打撃を被ることになるだろう」との懸念を示す。

上海合合情報科技股份有限公司の郭豊俊?畫像アルゴリズム研究開発総監(jiān)も、「AI技術の発展にともなって、ディープフェイクがもたらすガバナンスの危機がより顕在化するだろう」と指摘する。

「魔法で魔法を打ち負かす」

それではディープフェイクをより正確に見分けるにはどんな方法があるだろうか。多くの業(yè)界関係者が、「AIによってAIを見分ける」ことを「魔法で魔法を打ち負かす」と例え、技術的手段を通じてディープフェイクを根本的なところで識別し、関連のリスクを低下させるチャンスはあるとの見方を示す。

オープンAIによると、現(xiàn)在、関連の研究を進めており、これには誤った內(nèi)容を含んだテキストや畫像を識別する裝置が含まれる。オープンAIの製品のうち、このテキスト識別裝置は法律に違反したテキスト入力をチェック?拒否するもので、極端な暴力、性的な內(nèi)容、ヘイト、有名人の畫像、他人のIPなどが対象で、注意も喚起する。當社は有力な畫像識別裝置も開発しており、生成された動畫のフレームを全てチェックして、ユーザーが見る前に、動畫が當社の利用方針に合致するものになるように保証しているという。

前出の郭氏は、「中國內(nèi)外の多くの企業(yè)がAIによる改ざんの識別に注目しており、その中には、中國電信（チャイナ?テレコム）などの中央企業(yè)（中央政府直屬の國有企業(yè)）、瑞萊智慧（RealAI）、中科睿鑑科技などの大學?短大?高専と科學研究機関がインキュベートしたテクノロジー企業(yè)、網(wǎng)易や合合などの長年にわたりAI業(yè)界に深く関わってきたテクノロジー企業(yè)といった多くの中國企業(yè)が含まれる。全體的に言えば、中國の科學研究チームがディープフェイクの識別で上げた成果は世界トップレベルにあり、複數(shù)の國內(nèi)の研究チームが世界的に有名なねつ造を見抜く技術を競うコンテストで優(yōu)れた成績を収めている」と説明する。

しかし業(yè)界関係者は、「『魔法で魔法を打ち負かす』のはやはり責任の重い遠い道のりだ。ディープランニングやコンピュータビジョンなどの分野の技術のたゆまぬ進歩につれ、ねつ造識別技術も絶えず高度化して応用シーンを広げなくてはならない。この過程では、より多くの企業(yè)やSNSプラットフォームが參加し、『社會的利益のための技術』になるよう共に努力することが必要だ」と指摘する。（編集KS）

「人民網(wǎng)日本語版」2024年2月23日