黒人「ポテチうめえw」AI「銃の所持を検知しました。あなたを逮捕します」

2025年10月24日、米国メリーランド州ボルチモア郡のケンウッド高校で、人工知能（AI）による銃器検出システムが誤って高校生の持っていたドリトスの袋を銃と誤認し、警察が出動する事件が発生しました。

事件の概要

高校生のタキ・アレン（Taki Allen）さんは、月曜日の夜、友人とともにケンウッド高校の外でドリトスを食べていた際、AIシステムが彼の姿勢を「銃を持っているように見える」と判断し、警察に通報しました。

警察官が銃を携えて現場に到着し、「地面に伏せろ」と指示。アレンさんは膝をついて手錠をかけられ、身体検査を受けましたが、武器は発見されませんでした。

後に警察は、AIシステムが誤認した画像をアレンさんに見せました。彼が両手でドリトスの袋を持ち、指を突き出していた姿勢が、AIに銃を持っているように誤解されたとのことです。

学校と警察の対応

ボルチモア郡の高校では、昨年から学校内の監視カメラとAIを活用した銃器検出システムを導入し、疑わしい物体を検出すると学校や警察に通報する仕組みを採用しています。

学校側は、アレンさんとその友人たちに対し、カウンセリングを提供することを発表しました。

ボルチモア郡警察は、現場に到着した際に「武器を所持しているとの通報を受けて対応し、検査の結果、武器は発見されなかった」と述べています。

US student handcuffed after AI system apparently mistook bag of chips for gun

Baltimore county high schools have gun detection system that alerts police if it sees what it deems suspicious

www.theguardian.com