Meta、10代の自傷示唆を保護者に通知
Metaは、10代がMeta AIとの会話で自殺や自傷をほのめかした場合、保護者に通知する新機能を米英豪加で始めた。
なぜ重要か
- •生成AIの安全対策が会話内容からのリスク検知に広がる
- •保護者通知と緊急通報の設計がサービス導入の論点になる
- •AI企業と学校・家庭・行政の連携が重要になる
数字で見る
- •対象は10代のユーザー
- •米国・英国・オーストラリア・カナダで提供を開始
- •年内にグローバル展開する計画
転用先
原文概要
Metaは、10代のユーザーがMeta AIとの会話で自殺や自傷をほのめかした場合、Instagramのペアレンタルコントロールを利用する保護者に通知する機能を発表した。米国、英国、オーストラリア、カナダで提供を開始し、年内にグローバル展開する計画だ。差し迫ったリスクがある場合に緊急サービスへ通報する仕組みも構築中としている。