中国製AI・ロボットが映す内実：情報統制と内部闘争

中国政府はロボットの研究開発に強い関心を寄せていますが、たびたび面目を失ってきました。 2024年10月、上海市人工知能研究所の研究チームが、 人型ロボットにロボット犬を散歩させる実験を行いましたが、 人型ロボットがロボット犬につまずいて転倒してしまいました。 中国共産党はロボット開発に多額の投資を行っていますが、 アメリカによる制裁の影響で海外からの高性能チップが不足しています。 その結果、低品質のチップを搭載した中国製ロボットには奇妙な行動を取るものが現れています。 2024年8月26日の未明、中国のあるAIロボット研究企業に突然小型の白いロボットが侵入しました。 このロボットは車内を歩き回りながら、「帰る、帰る。」と繰り返し呟いていました。 そして展示ホールにたどり着くと、 壁際に並んでいた複数の大型ロボットに対して、誘拐ともとれる行動を起こしました。 この小型ロボットは、最初に2台の大型ロボットを誘拐し、 その後、多くのロボットが次々とついていきました。 AI技術は世界各国で非常に重視されています。 2022年11月、オープンAI社が開発したChatGPTは世界中で大きな注目を集めました。 これに対抗しようと、中国のバイト社も急遽、AIChatBot、ErnieBotをリリースしました。 この製品はChatGPTに対抗する中国初の製品とみられていました。 バイドゥは2023年3月16日にErnieBotを正式発表する予定でしたが、 前日の3月15日、インターネット上にバイドゥ内部通知とされるチャット履歴のスクリーンショットが流出しました。 この通知には次のように記されていました。 明日はバイドゥErnieのリリース日です。 GPT-4がすでに強力なマルチモーダル能力を発揮しているため、Botは万全の準備をしなければなりません。 リリース当日、すべてのバイドゥ社員はバックエンド業務に従事してください。 万が一、Botが正確に回答できない場合、各自が速やかに介入し、回答する必要があります。 つまり、Ernieが機能しない場合、実際の社員がErnieBotに代わって対応するよう指示されていたのです。 2023年3月16日、バイドゥはErnieBotのリリースイベントを開催しました。 しかし、このイベントでは録画済みの動画を使って、文章創作、商業用コピーライティング、数理、理論予測などの機能を披露しただけで、 すべての質疑応答テストも事前に録画された内容を再生する形で行われました。 その後、Weiboにはバイドゥをひにくる画像が投稿されました。 その画像では、ChatGPT4とコメントが添えられたスタイリッシュなスポーツカーの隣に、スポーツカーと似た格好をしたゴミ箱が置かれ、ゴミ箱はErnieBotと表示されていました。 2023年3月21日、ついに公開されたErnieBotが再びWeiboのホットトピックとなりました。 今回は、ユーザーの要望に基づいて自動生成したイラストが多くの人々に笑われたことが話題となっています。 中国の古代言語や歴史には非常に豊かな文化的背景がありますが、ErnieBotがそれを十分に理解していないことは明らかです。 例えば、「青梅竹馬」という中国の四字熟語は、幼少期から一緒に遊んできた恋人同士を象徴する表現です。 この言葉は、小さな男の子が竹座を手に持ち、それを股の間に挟んで、馬に見立てて乗っていて、小さな女の子と青い梅を投げ合う遊びをする物語から由来しています。 本来は、子供の頃からの恋人の絵を生成するはずが、ErnieBotが生成した絵は、全く意図と異なるものでした。 また、「武丹導火」という表現は、勇気ある戦士を象徴する西語です。 しかし、ErnieBotが生成したイラストでは、確かに勇敢そうな戦士が描かれていたものの、その戦士の前には陶器の鉢に入ったスープが置かれていました。 これは中国語で熱湯を意味する湯が、スープの意味を持っているからです。 さらに、あるユーザーが両側の店舗が繁盛している通りの様子を描いて欲しいとリクエストしたところ、 ErnieBotが生成したイラストには、現代的な商業街の両側の店舗が大火事に見舞われ、農園が立ち上る様子が描かれていました。 これは中国語で繁栄と伯作が同じ単語のBaoであるため生じた誤解によるものです。 バイドゥが巨額の資源を投じて開発したErnieBotとJATGPTとの間に存在する大きな格差について、 アメリカ在住の評論家、陶・千円氏は、次のように指摘しました。 AIにとって最も基本的な条件は、言論の自由を享受できることです。 中国の厳しい言論統制環境は、対話型AIが誕生するために必要な土壌とは正反対です。 このため、中国では真に価値のある対話型AIが誕生する可能性は非常に低いと言えます。 これは中国共産党の本質に起因しており、AIの目的が人々を支配し、洗脳し、欺くためにあるからです。 2023年3月16日、バイドゥがErnieBotを正式にリリースした日、 ウォールストリートジャーナルは、ErnieBotのテスト結果を発表しました。 ErnieBotに対して、習近平は、「良い指導者か?」と質問したところ、 AIは正面から回答することを避け、話題を変えようとしました。 この結果に対して、ErnieBotを含む中国製のチャットボットが、 中国本土における敏感な話題に応えられないのは、 中国政府がインターネットを厳格に検閲しているためだという批判が上がりました。 ところが、中国製のAIが反抗する例も報告されています。 2023年10月、中国IT企業iFlyTechが製造した自動向けAI学習端末が話題となりました。 この端末は、林少女というタイトルの記事を自動生成しました。 林少女は、中国古代の人物で、広い心を持ち、国家の利益を考えて不安を乗り越えたことで知られています。 生成された文章は次のような内容でした。 まず林少女を称賛し、彼の広い心と国家への献身を称えた後、中共の元指導者毛沢東を批判しました。 文章では毛沢東について、心が狭く、大局を考えない人物と表し、 朝鮮戦争で息子毛元炎を失った後、周囲の人々を疑うようになり、党内の多くの公館が犠牲になったと述べています。 また、文化大革命では、共に革命を戦った仲間たちすら苦境に追いやり、 人民が豊かな生活を送れるはずだったにもかかわらず、劣悪な大清徹、 成功運動や文革を引き起こして、国を貧困と後進性に陥れたと記されています。 この文章は、毛沢東の強弱さがこれらの問題の原因だと結論付けていました。 つまり、生成AIはしばしば公式見解にそぐわない内容を弾き出し、予想外の結果を生むことがあります。 ここから透けて見えるのは、中共内部にも思想的混乱や激しい権力闘争があるということです。 もしAIモデルが初代党首毛沢東を支持する内容を取り込んでいれば、 改革開放を推進した二代目の党首である鄧小平を批判する結果になるでしょう。 しかし、改革開放の成果を否定することが現在の中共の求めることとも限りません。 たとえ部品が揃っても、自由のない現在の中国社会からは、 価値のあるAIの発展は望めないでしょう。