シリーズ「AIと医療イノベーション」第23回

FacebookでAIが「ネット自殺」ほのめかしを検知!警察や自殺防止ホットラインなどに通報

この記事のキーワード : 
  • このエントリーをはてなブックマークに追加

「命から命へのSNS」へシフトアップしたFacebookの重大ミッション

 このエポックの意義は重い。なぜなら、Facebookが単にAIにコンテンツをスキャンさせ、自殺防止・通報機能を肩代わりさせたのではなく、Facebookのミッションが「Face to face(人から人へのソーシャルネットワーク)」から「Help to help(命から命へのソーシャルネットワーク)」へシフトアップしたように見えるからだ。

 つまり、Facebookが構築しているソフトウェア・テクノロジーがコネクション・テクノロジーから命を救うためのテクノロジーへとブレークスルーしたと言い換えてもいいだろう。

 もう少し精確にシステムの流れを整理してみよう――。

 Facebookユーザーが自殺を示唆する投稿を行う→AIが投稿を察知しフラグを立てる→AIがコメントやビデオのどの部分が自殺の危険性を示唆するのかをハイライトで明示する→自殺防止の専門的訓練を受けた対策チームのモデレーター(調停者)が適切な対処方法を検討する→モデレーターは大量のコンテンツから問題部分を迅速に選別する→モデレーターは地元の関係機関(Save.org、National Suicide Prevention Lifeline、Forefrontなどの自殺防止電話ホットラインやNPO、警察、消防など)へ緊急通報する→同時にモデレーターはユーザーの居場所や過去の精神状態に関する参考データを収集して連絡する→ユーザーの家族や友人を探し自殺の危険性や可能性を伝え協力を要請する。

 このような「AI」「モデレーター」「ユーザー」の通報が協働すれば、Facebook 上でライブストリーミングされた自殺の惨劇を防げるだろう。録画ビデオを公開前にプラットフォーム側で審査し、問題があれば公開を保留できる。そのために、ライブビデオの利用に制限措置や予防措置が導入されるのはやむを得ない。

「AIは優れたアプローチを提供できると思う」とザッカーバーグ

 利便性と危険性は、常にトレードオフ(二律背反)なので、適切な基準によってコントロールされる措置は避けられない。

 FacebookのCEOマーク・ザッカーバーグは「Facebook上で自殺が起き、そのいくつかはライブストリーミングされるという恐ろしい出来事があった。誰かが事前に気づき、適切に通報していればこうした悲劇は防止できたかもしれない。AIは優れたアプローチを提供できると思う」と書いている。

 Facebookユーザー20億人。世界的なコミュニケーション・プラットフォームの運営には、重大な人道的責任も社会的な義務も伴う。Facebookがこの重大なミッションを受容するのは自然だ。

 AIは、人類の未来とテクノロジーをコラボするモデレーター(調停者)としての重責を担っている。人類とAIのめざすゴールは、ただ一つ。儚い命に手を差し伸べ、「死にたい!」生身の人間にも
生きる勇気と希望を抱かせることだ。
(文=佐藤博)

佐藤博(さとう・ひろし)
大阪生まれ・育ちのジャーナリスト、プランナー、コピーライター、ルポライター、コラムニスト、翻訳者。同志社大学法学部法律学科卒業後、広告エージェンシー、広告企画プロダクションに勤務。1983年にダジュール・コーポレーションを設立。マーケティング・広告・出版・編集・広報に軸足をおき、起業家、経営者、各界の著名人、市井の市民をインタビューしながら、全国で取材活動中。医療従事者、セラピストなどの取材、エビデンスに基づいたデータ・学術論文の調査・研究・翻訳にも積極的に携わっている。

シリーズ「AIと医療イノベーション」バックナンバー

HIVも予防できる 知っておくべき性感染症の検査と治療&予防法
世界的に増加する性感染症の実態 後編 あおぞらクリニック新橋院内田千秋院長

前編『コロナだけじゃない。世界中で毎年新たに3億7000万人超の性感染症』

毎年世界中で3億7000万人超の感染者があると言われる性感染症。しかも増加の傾向にある。性感染症専門のクリニックとしてその予防、検査、治療に取り組む内田千秋院長にお話を伺った。

nobiletin_amino_plus_bannar_300.jpg
Doctors marche アンダカシー
Doctors marche

あおぞらクリニック新橋院院長。1967年、大阪市…

内田千秋

(医)スターセルアライアンス スタークリニック …

竹島昌栄

ジャーナリスト、一般社団法人日本サプリメント協会…

後藤典子