概要: OpenAIの新しい画像生成ツール「4o」が、偽のレストランの領収書、規制薬物の処方箋、そしておそらくはその他の身分証明書や金融文書など、本物そっくりの偽造文書を作成するために使用されたと報じられています。ユーザーは、このモデルが安全規制を回避し、経費詐欺、医療文書の偽造、その他様々な形態の文書偽造に悪用される可能性があることを実証しました。
Alleged: OpenAI developed an AI system deployed by scammers と Fraudsters, which harmed Expense management platforms , healthcare providers , Pharmacists , Regulatory agencies , Law enforcement , Employers と General public.
インシデントのステータス
インシデントID
1018
レポート数
1
インシデント発生日
2025-03-31
エディタ
インシデントレポート
レポートタイムライン
OpenAIの最新の画像生成モデル「4o」は、画像内テキスト生成において驚くほど優れている。これは、多くの先行モデルでは特に困難であった機能である。
そして、ユーザーが実感しているように、このモデルは偽造文書の画像生成に強力なツー ルとなっている。
一例として、Menlo VenturesのプリンシパルであるDeedy Das氏は、サンフランシスコの実在するステーキハウスでの豪華な食事の偽造レシートの写真をツイートした。これはTechCrunchが発見。
「4oを使えば偽のレシ…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論 文を参照してください
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents