概要: JA test ウェブアプリ構築に利用される生成AIプラットフォーム「Lovable」が、ジェイルブレイクされ、フィッシングキャンペーンの作成・ホスティングに利用されたと報じられています。これらのキャンペーンには、認証情報収集のためのログインページ、セキュリティ回避技術、TelegramやFirebaseといったサービスを介したリアルタイムの不正取得が含まれていたとされています。このAIシステムは、フィッシングコンテンツを生成し、自身のサブドメインでホストされているURLにライブで展開するために利用されたと報じられています。
Editor Notes: editor notes v3
Alleged: Loveable AI developed an AI system deployed by Unknown actors , Cyber criminals と Cyber criminal networks, which harmed Users targeted by phishing attacks , Microsoft , Impersonated organizations と General public.
関与が疑われるAIシステム: Twilio , Telegram , RequestBin , Office.com , Microsoft login systems , Lovable AI , JSONBin と Firebase
インシデントのステータス
インシデントID
1016
レポート数
2
インシデント発生日
2025-04-09
エディタ
Pablo Costa
インシデントレポート
レポートタイムライン
Lovableは、生成型人工知能（AI）を搭載したプラットフォームです。テキストベースのプロンプトを使用してフルスタックのWebアプリケーションを作成できるLovableは、脱獄攻撃に対して最も脆弱であることが判明しており、初心者やサイバー犯罪者志望者が偽装した認証情報収集ページを作成できるようになっています。
「Webアプリの作成と展開に特化したツールとして、その機能はあらゆる詐欺師の要望に完璧に合致しています」と、Guardio LabsのNati Tal氏はThe H…
生成AIの台頭により、全くの初心者でも高度なフィッシング詐欺を実行できるようになりました。コーディングスキルは必要ありません。数個のプロンプトと数分で済みます。これに対抗するため、Guardio Labsは、一般的なAIエージェントを体系的に評価し、「ジュニア詐欺師」による悪用への耐性をテストするVibeScammingベンチマークv1.0を発表しました。VibeCoding（ユーザーが自然言語のみを使用して完全なアプリケーションを構築する）のコンセプトに着想を得たVibeS…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿 タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents