Esta acción tiene como objetivo impedir que las fuerzas policiales empleen tecnologías de inteligencia artificial en dispositivos móviles para la identificación de individuos en ambientes no regulados.
Microsoft ha modificado las normas de uso del servicio Azure OpenAI para restringir el acceso a las herramientas de OpenAI, evitando que los organismos policiales de Estados Unidos utilicen la inteligencia artificial generativa para analizar texto, voz o reconocimiento facial.
Te puede interesar: Bill Gates opina que la IA podrá enseñar a los niños a leer
Esta medida busca evitar que la policía use tecnologías de inteligencia artificial en cámaras móviles para identificar personas en entornos no controlados.
La prohibición incluye modelos de IA como GPT-3, GPT-4 y GPT-4 Turbo, así como modelos Vision, Codex, DALL-E 2, DALL-E 3 y Whisper. La compañía con sede en Redmond estableció restricciones específicas que evitan que la policía recurra a estas herramientas para identificar individuos en bases de datos de sospechosos o realizar vigilancia constante a través de datos biométricos o personales
Microsoft también prohíbe el uso de Azure OpenAI para identificación o verificación de identidades individuales mediante rostros, incluso si involucra a la policía estatal o local de Estados Unidos. Asimismo, el análisis facial para determinar emociones, género o edad de una persona también está prohibido.
Esta medida de Microsoft llega poco después de que Axon, una empresa que fabrica tecnología y armamento para fuerzas militares y de seguridad, anunció el lanzamiento de un dispositivo que utiliza GPT-4 de OpenAI para resumir el audio de cámaras corporales.
Sin embargo, críticos han señalado posibles riesgos, como sesgos raciales y “alucinaciones” derivadas de los datos de entrenamiento.
Aunque TechCrunch informó que no está claro si Axon utiliza GPT-4 a través del servicio Azure OpenAI, Microsoft parece haber tomado estas medidas como respuesta al producto de Axon. OpenAI ya había restringido previamente el uso de sus modelos de IA para reconocimiento facial mediante sus API.
