音声AI、受刑者の電話書き起こしに誤用される

米国各地の刑務所と拘置所では、拘留者や受刑者と弁護士や家族との電話中の会話を自動的に書き起こすAI音声テキスト化モデルが導入されていることが判明した。AIの使用が人権を侵害する事案として物議を醸している。

トムソン・ロイター財団の調査報道によると、 LEO Technologiesが開発し、アマゾンが提供する音声テキスト化システムをベースにしたAIアプリケーション「Verus」が、受刑者の電話の盗聴に利用されていたことが、8つの州の一連の契約書と電子メールで明らかになった。

報道によると、LEO社のCEOジェームズ・セクストンは、売り込みの際、イリノイ州クック郡の刑務所に勤務する職員に対し、アラバマ州カルフーン郡の顧客の1人が、刑務所が訴えられるのを防ぐためにこのソフトウェアを使用していると話したという。

「(この)保安官は、(通話が)受刑者や活動家からの民事訴訟による係争中の責任をかわすのに役立つと考えている」とセクストンは語ったとされる。Verusは、電話を書き起こして、COVID-19の発生などの問題や、刑務所の状況に対する苦情について議論している特定のキーワードを見つけることができる。

2019年から、サフォーク郡はカリフォルニア州に拠点を置くLEO Technologiesが販売するAIスキャンシステム「Verus」の初期のパイロットサイトとなり、アマゾンの音声テキスト化技術を使って、キーワード検索でフラグが立った電話を書き写すことになった。同郡の刑務所は結局、もっと幅広い対象に関わる通話を聞いており、1カ月あたり60万分もスキャンしていたという。

サフォーク郡は、テキサス州ヒューストンやアラバマ州バーミンガムといった大都市圏を含む米国7州の郡刑務所や州刑務所のうち、LEO社がこれまでに受刑者の通話を監視するVerusシステムを導入している数十カ所のうちの1つだ。

8つの州からの電子メールと契約書によると、このツールは、例えば、スペイン語で弁護士を意味する言葉を含む会話や、拘置所がコロナウイルス感染症の発生を隠蔽しているという非難など、広範囲の通話をスキャンするために使用されていることが示されている。

LEO社は、米国内の刑務所や拘置所に出入りする3億分近い通話をスキャンしており、このツールは犯罪と戦い、受刑者の安全を守るのに役立つと説明している。

しかし、市民団体とデジタル著作権団体の連合は、この監視は時に、拘置所の安全やセキュリティ、あるいは犯罪行為の可能性とは無関係な会話を対象とし、法的限界を踏み越えることがあると指摘した。