シリーズ「AIと医療イノベーション」第23回

FacebookでAIが「ネット自殺」ほのめかしを検知!警察や自殺防止ホットラインなどに通報

この記事のキーワード : 
  • このエントリーをはてなブックマークに追加
FacebookでAI(人工知能)が「ネット自殺ほのめかし」を早期発見!自殺予防に貢献か?の画像1

FacebookでAIが「ネット自殺ほのめかし」を早期発見(depositphotos.com)

 米Facebookは11月27日、「ネット自殺」をほのめかすコメント投稿やライブビデオ投稿をAI(人工知能)を使って検出し、モデレーター(調停者)である専門対策チームに報告する活動を、プライバシー関連法が参入障壁になるEUを除く世界各国で始動したと発表した(「ITmedia」2017年11月28日)。

米国ではAIが1カ月間で約100件以上の「ネット自殺ほのめかし」投稿を報告

 米Facebookは、2011年から自殺防止対策に取り組み、問題のある投稿をFacebookの専門対策チーム(Community Operationsチーム)に報告し、報告されたユーザーにアドバイスメッセージを表示してきた。

 従来は、友達などの第三者からの報告に基づくアクションだったが、今後は、AIのパターン認識技術を活用し、ネット自殺をほのめかす投稿をいち早く検知し、専門チームに通報できるので、より迅速に自殺の危険性の高いユーザーにアクセスし、接触しやすくなる。

 AIがチェックするのはコメント投稿だけでなく、ライブビデオのコメントも対象だ。たとえば、ライブビデオのコメントに「Are you OK?”(大丈夫?)や「Do you need help?(助けが必要?)」などのコメントがあれば、AIが直ちに探知し、対策チームに速報する。

 AIは支援対象の優先度も判断できるため、報告された投稿をパターン認識によってさらに精確に解析し、緊急性の高い投稿のレビューを優先するように対策チームに速報する。リスキーな緊急事態に即応するトリアージ機能だ。

 また、チームメンバーが個々の投稿のどの部分が問題かを迅速に判断できるように、AIがコメントが集中しているビデオの部分を的確に明示する。

 米国では、AIが1カ月間で約100件以上の投稿を対策チームに報告している。対策チームは7500人以上が世界中から寄せられた報告に24時間体制で対処している。FacebookはAIのシステムの最適化とともに、偽陽性(ニセ情報や誤報)の回避に努めていくとしている。

離島での事業継続と都市型のドミナント戦略の共存で急成長の訪問看護ST
インタビュー「訪問看護ステーション」後編:Recovery International株式会社代表・大河原峻さん

前編『自由な発想で事業を拡大!看護師が起業した「訪問看護ステーション」の成長の秘訣』
訪問看護の業界において、これまでの訪問看護の枠に囚われない自由な発想で事業を拡大し急成長を遂げている訪問看護ステーション「Recovery International株式会社」。同社を運営する河原峻氏に、今回は同社が進める離島での訪問看護事業、今後のビジョンなどについて話を聞いた。

Doctors marche アンダカシー
Doctors marche

神戸市垂水区 名谷病院 内科勤務。1987年 産…

吉田尚弘

フリージャーナリスト。1949年、東京都生れ。法…

郡司和夫

つつみ病理相談所http://pathos223…

堤寛