XにAI画像編集機能登場！他人の投稿も簡単加工で悪用懸念が噴出

Xに新機能 POSTの画像をAIで？

Xに画像の“AI加工機能”出現　他人のポストでも、1クリックで画像編集　「最悪なシステム」と物議に

Webアプリ版のXなどで12月24日までに、投稿された画像をAIで加工できる機能が実装された。ポストに添付された画像にマウスカーソルを合わせると、右下に「画像を編集」という項目が表示され、クリックするとチャット画面が立ち上がる。そのチャット欄にテキストで指示内容を入力すると、AIが指示通りに画像を加工し、それを出力する機能だ。

手軽に画像加工ができてしまうこの機能について、Xユーザーからは悪用のリスクを指摘する声が多く上がっている。「最悪なシステム」「悪用以外の使い道ある？」「保存してGrokに送ればできたけどお手軽なのが良くない」「悪用する人を通報できるシステムがあればいいのに」など、批判的な声が相次いで見られている。

Xに画像の「AI編集」ボタン登場　悪用などに注意

Xは、投稿された画像をAIで編集できる機能を追加した。12月24日時点で、WebやアプリのXで画像を選択し、テキストのプロンプトにより画像の加工・編集が可能になった。無料ユーザーも利用可能で、一定の回数を超えると有料契約を促される。

Xに投稿された画像を選ぶと、[画像を編集]の文字が表示され、タップ/クリックすることでプロンプトの入力画面が現れる。プロンプトを入力して送信すると、AIのGrokにより編集後の画像が2パターン表示され、さらなる編集やXへの投稿、共有などが可能になる。

Xに投稿された画像から、簡単に編集・加工して投稿できるが、フェイク画像等も作れてしまう。また、他人が投稿した画像を簡単に編集でき、悪用や意図せぬ著作権侵害等も危惧される。

いろいろ言われることの多い画像生成

いろいろと問題視されることも多い画像生成に新たな一石を投じる機能を「X」が導入してきました。

このXの新たな機能が従来の画像生成AIと一線を画すのは、プラットフォーム上で共有されている「既存の画像」を、誰でも容易に編集できてしまう点にあります。
これまでの画像生成AIが「ゼロから新しい画像を創り出す」ことに主眼を置いていたのに対し、Xの機能は「既に存在する情報を加工する」という側面が強く、その影響はより深刻であると指摘されています。

Xの画像AI編集機能が抱える具体的なリスク

Xの画像AI編集機能は、その手軽さゆえに多岐にわたる悪用の可能性を秘めています。

フェイクニュースや誤情報の拡散: 事実に基づいた写真がわずかに改変されるだけで、全く異なる文脈や誤った情報を生み出すことが可能になります。これにより、真実と虚偽の区別がつきにくくなり、社会的な混乱を招くリスクが高まります。
名誉毀損やプライバシー侵害: 個人の顔や姿を写した写真が、本人の意図しない形で加工され、侮辱的な表現や性的な示唆を伴う画像に作り変えられる可能性があります。これは、サイバーいじめやデジタルハラスメントの新たな温床となる恐れがあり、被害者の精神的苦痛は計り知れません。
著作権侵害の拡大: 他のユーザーが投稿した写真やイラストが、オリジナルの作者の許諾なく容易に編集・二次利用され、著作権侵害が常態化する危険性も指摘されています。特に、編集後の画像がさらにX上で拡散されることで、権利侵害の範囲が広がることも懸念されます。
Grokの能力と倫理的課題: この機能の背後には、高度な自然言語処理能力を持つAI「Grok」が利用されています。Grokの強力な画像生成・編集能力は、指示内容によっては極めてリアルな改変を可能にし、それが倫理的な問題や法的な課題を引き起こす可能性があります。

これらのAIの画像生成の問題は正直どのAIでも抱えている問題ですが、Xの場合これが
POST内のボタン一つで簡単に出来ることが問題視されてしまう率を高めているようです。少しだけ障壁がある画像生成がとっても手軽に扱えるところに
より大きな危機感を持っている方も多いように思います。

技術の進化がもたらす恩恵を享受しつつ、その負の側面をいかに管理し、ユーザーの安全と権利を守るかが、プラットフォーム運営者、技術開発者、そして私たちユーザー一人ひとりに課せられた重要な課題と言えるでしょう。
今後のXの対応と、この機能が社会に与える影響に注目が集まります。