6月25日のロイター社の記事によると、人工知能(AI)を使った顔認識技術を手掛ける米企業ランクワン・コンピューティングは24日、米国内で初めて報告された同技術の誤判定による不当逮捕事件で、同社のソフトウエアが使われていたのを受け、悪用を防ぐための対策を取ると表明。
発端は2018年10月に起きた窃盗事件。
ブランドショップとして知られるミシガン州デトロイト中心部の高級店「シャイノラ」で、時計5点、計3,800ドル(約40万円)分が万引きされた。
監視カメラに写っていたのは、赤い野球帽をかぶった大柄で黒い服をきた黒人男性だった。
地元のデトロイト市警察は事件発生から5カ月後の2019年3月、この監視カメラ映像の鑑定を、ミシガン州警察に依頼。州警察では、4900万枚の顔画像で構築した顔認識システムSNAPを使って、映像の人物の鑑定を行った。
その結果、SNAPが映像の人物と合致する顔画像の一つとして判定したのが、ウィリアムズ氏の免許証の顔写真であった。
さらに4カ月後の2019年7月、この判定をもとに、ウィリアムズ氏の顔写真を含む6人の面通し用顔写真を作成。シャイノラの警備員に見せたところ、警備員がウィリアムズ氏を特定。
その半年後、事件発生から数えて1年3カ月後となる2020年1月9日、デトロイト市警がウィリアムズ氏を逮捕。
ウィリアムズ氏が「黒人が全員同じに見えてないといいのですが。」と発言すると、警察は困惑。画像の人間とウィリアムズ氏が一致しないと考え、「コンピューターが間違えたんだな。」と言ったという。逮捕から30時間後の1月10日夜、ウィリアムズ氏は釈放。
デトロイトの警察はウィリアムズ氏の誤逮捕についてコメントを控えたが、現在は顔認識技術の使用を凶悪犯罪と家宅侵入に限定していた。
ランクワンのブレンダン・クレアCEOは「当社の倫理規定に違反する当社ソフトの使用に対して使用許可を取り消す法的手段を確立し、悪用を阻止するためソフトに搭載する追加安全策について技術的な検討も行う」と表明した。
ニューヨーク・タイムズによれば、ミシガン州警察の顔認識システムSNAPは、サウスカロライナ州の企業データワークス・プラスが550万ドル(約5億9,000万円)で受託。
エンジンとなる顔認識については、NECとコロラド州の企業ランクワン・コンピューティングのテクノロジーを採用しているという。
AIによる顔認識は、白人よりも黒人やアジア系などの有色人種、男性よりも女性で誤認識率が高い傾向にあることが知られている。
この問題で注目を集めたのが、マサチューセッツ工科大学メディアラボの研究者、ジョイ・ブォラムウィニ氏らが2018年2月に発表した研究結果である。
ブォラムウィニ氏らは、マイクロソフト、IBM、さらに中国の顔認識サービスのフェイス++の3つのサービスの認識精度を比較。
3つのサービスの誤認識率は、いずれも男性より女性の方が高く、白い肌より黒い肌の方が高かった。性別と肌の色の組み合わせでは、いずれも誤認識率が最も高かったのは肌の黒い女性。マイクロソフトでは20.8%、フェイス++では34.5%、IBMでは34.7%だった。
なお、アフリカ系米国人やその他のマイノリティーを不当に扱う警察の捜査手法に対する抗議活動が広がったのを受け、IBMは2020年6月8日、顔認識のビジネスからの撤退を表明。2日後の10日にはアマゾンも顔認識の警察への提供を1年間停止と発表。マイクロソフトも翌11日、法整備が行われるまで、警察への顔認識の提供は行わないと発表。
AIによる顔認識への拒絶感が社会にあると言えるが、一方でテクノロジーはあくまでも人間がどう使うかで価値が変わってしまう。テクノロジーを拒絶するのではなく、顔認識に関する法整備が必要なのではないかと思われる。