Una jueza cuestionó el mal uso de la inteligencia artificial para redactar informes policiales. En el marco de una investigación sobre el uso de la fuerza en las redadas contra migrantes en Chicago, la magistrada Sara Ellis notó que había reportes sobre detenciones escritos con ChatGPT. El problema radica en que esta práctica puede generar imprecisiones que resulten perjudicialales para los extranjeros
La jueza Sara Ellis cuestionó informes de las redadas en Chicago que se hicieron con IA
La jueza federal se expresó en una investigación del accionar de las fuerzas de seguridad en la ciudad más poblada de Illinois. Luego de la Operación Midway Blitz llevada a cabo por agentes de la Patrulla Fronteriza en Chicago, Ellis realizó una revisión de los informes y videos de cámaras corporales.
En más de 200 páginas, expresó que se produjeron enfrentamientos y que, en ciertas ocasiones, hubo uso excesivo de la fuerza para reprimir manifestaciones. Sin embargo, llamó la atención una nota de opinión que dejó al final del documento, al que tuvo acceso AP.
Allí, Ellis aseguró que en al menos un informe constató el uso de ChatGPT para la redacción. Según la jueza, un agente le dio a la IA las imágenes y una breve descripción de los hechos y le pidió que redactara el reporte.
Al comparar con lo ocurrido en las imágenes, la magistrada notó que había discrepancias importantes con lo escrito oficialmente. Más allá de la crítica que la magistrada hizo a esta práctica, la utilización de inteligencia artificial para informes policiales puede ser especialmente riesgoso en el caso de inmigrantes.
Es que un error de la IA sobre lo que ocurrió durante el operativo podría hacer responsable a una persona de acciones que no cometió. Por ejemplo, una supuesta agresión a un agente federal podría complicar la situación del migrante y su estadía en Estados Unidos.
La Patrulla Fronteriza usa algoritmos de IA para detenciones
Más allá del uso de ChatGPT para redactar informes, recientemente una investigación de AP descubrió que la entidad utiliza un sistema de inteligencia artificial para detener a personas.
El procedimiento de la Patrulla Fronteriza funciona de la siguiente manera:
- El sistema de IA realiza una lectura automatizada de placas y monitorea vehículos en todo EE.UU.
- Un agente halla un patrón de movimiento “sospechoso” y marca esa placa para una detención.
- La policía local, en colaboración con la entidad, realiza un control de tráfico y detiene al auto apuntado por una supuesta falta menor.
Además de cuestionamientos por la violación a la privacidad, esto también es especialmente riesgoso para inmigrantes, que pueden ser hallados por la agencia federal mediante este sistema.
El 97% de los migrantes detenidos en Chicago no tenía antecedentes
El descubrimiento sobre el uso de la IA para los informes se superpone a otro dato controversial del operativo Midway Blitz. Tras una orden del juez federal Jeffrey Cummings, las autoridades debieron entregar información sobre la lista de detenidos durante las redadas en Chicago.
Allí, se descubrió que de los 614 inmigrantes que fueron arrestados, solamente 16 personas (2,6% del total) tenía algún tipo de antecedente penal.
