GovTech Singapore、詐欺対策のAIアプリAntiScam Pangoのベータ版を公開

AntiScam Pangoは、WhatsApp、Telegram、SMSの通知を端末上で解析し、詐欺の可能性があれば画面にポップアップで警告する。ユーザーはアプリから報告でき、誤検知なら「mark as safe」を選べる。報告時には不審なメッセージ、送信者、メッセージアプリ、受信時刻が自動でまとめられ、送信前に確認できる。解析対象は各アプリの直近10件のメッセージで、ユーザー自身の返信は解析しない。

モデルは100,000件超の合成メッセージと、執行機関との対詐欺業務で集めたデータで学習した小型AIモデルで、Google DeepMindとも学習の改善に取り組んでいる。端末上のモデルは自己学習しない。数日ごとに受信数や安全・不審と判定された件数の集計値だけが送られ、検知が多すぎないかをチームが確認し、必要ならファインチューニングする。クラウド型の大規模モデルは精度が高い傾向にあるが、メッセージが秘匿されない点を踏まえ、端末内で動く小型モデルを選んだという。

30人超のテストでは、高齢の利用者からポップアップが分かりにくいとの声があり、次に画面を開いたときに全画面の赤い警告を表示する機能を追加した。この機能は他のアプリの上に重ねて表示する権限を許可した場合のみ動作する。ScamShieldが通話とSMSを対象とするのに対し、新アプリはWhatsApp、Telegram、SMSのメッセージへの早期警告を加える。

アプリは社内ハッカソンから生まれ、エンジニア2人、データサイエンティスト1人、プロダクトマネージャー1人のチームが開発した。制約として、主に英語で動作しスラングに弱く、RAMが6GB以上の端末が必要で、シンガポールのAndroid端末の70〜80%に当たると推定している。モデルを圧縮して対応端末を広げる計画である。iPhone版は、Appleが他アプリの通知読み取りを認めていないため時期は未定で、プライバシーを犠牲にしない方針という。今後はユーザーテストとモデル改善を進め、100万人超が使うScamShieldへの統合も検討する。