Microsoft ha causado un gran impacto con una reciente medida drástica: la prohibición del uso de tecnologías de inteligencia artificial en cámaras móviles por parte de la policía de Estados Unidos. Esta decisión se ha implementado mediante la actualización del Código de Conducta del Azure OpenAI Service, restringiendo el acceso a herramientas de OpenAI que incluyen análisis de texto, voz y reconocimiento facial.

En un movimiento sin precedentes, la empresa con sede en Redmond ha establecido restricciones específicas que impiden a los departamentos de policía estadounidenses utilizar modelos de IA como GPT-3, GPT-4, GPT-4 Turbo, así como Vision, Codex, DALL-E 2, DALL-E 3 y Whisper. Microsoft ha vetado completamente estos modelos, que habitualmente se utilizan para identificar personas en bases de datos de sospechosos o para llevar a cabo vigilancia mediante datos biométricos, en un nuevo enfoque ético.

Además, Microsoft también ha prohibido el uso de Azure OpenAI para la identificación o verificación de identidades individuales mediante rostros, incluso en casos relacionados con la policía estatal o local de EE. UU. El análisis facial para determinar emociones, género o edad también ha sido incluido en esta prohibición.

Estas medidas, aunque drásticas, llegan en un momento crucial tras el anuncio de Axon, una empresa fabricante de tecnología y armamento para fuerzas militares y de seguridad, sobre el lanzamiento de un dispositivo que utiliza GPT-4 de OpenAI para procesar el audio de cámaras corporales. La repercusión de esta noticia ha generado preocupación entre críticos que señalan posibles riesgos, como sesgos raciales y “alucinaciones” derivadas de los datos de entrenamiento.

Medidas de respuesta de Microsoft

Aunque no está confirmado si Axon utiliza GPT-4 a través del servicio Azure OpenAI, es evidente que Microsoft ha tomado estas medidas como respuesta a los avances en el uso de inteligencia artificial en la seguridad pública. OpenAI ya había restringido previamente el uso de sus modelos de IA para el reconocimiento facial a través de sus API, demostrando así una postura clara en defensa de la privacidad y la ética en la tecnología.

Con esta nueva política de Microsoft, se abre un debate sobre los límites éticos y legales en el uso de tecnologías de reconocimiento facial por parte de las autoridades. ¿Es esta prohibición un paso hacia un uso más responsable de la IA en la seguridad pública? El tiempo lo dirá.

Te puede interesar: Brasil se enfrenta a su peor desastre natural en décadas: 37 muertos y 74 desaparecidos en inundaciones sin precedentes desde 1941