La combinación de inteligencia humana de Facebook para la transcripción de audio ahora se enfrenta al escrutinio de la privacidad en Europa


Facebook El principal regulador de privacidad en Europa ahora solicita a la compañía información detallada sobre el funcionamiento de una función de voz a texto en el Messenger de Facebook aplicación y cómo cumple con la legislación de la UE.

Ayer, Bloomberg informó que Facebook utiliza contratistas humanos para transcribir los mensajes de audio de los usuarios de la aplicación; sin embargo, su política de privacidad no menciona claramente el hecho de que personas reales podrían escuchar sus grabaciones.

Una página en el centro de ayuda de Facebook también incluye una "nota" que dice "Voice to Text utiliza el aprendizaje automático", pero no dice que la función también esté activada por personas que trabajan para escuchar en Facebook.

Un portavoz de la Comisión de Protección de Datos de Irlanda nos dijo: "Además de nuestro compromiso continuo con Google, Apple y Microsoft en relación con el procesamiento de datos personales en el contexto de la transcripción manual de grabaciones de audio, ahora estamos buscando información detallada de Facebook sobre el procesamiento en cuestión y cómo Facebook cree que dicho procesamiento de datos cumple con sus obligaciones GDPR . "

El informe de Bloomberg sigue revelaciones similares sobre las tecnologías de asistente de inteligencia artificial ofrecidas por otros gigantes tecnológicos, incluidos Apple, Amazon, Google y Microsoft, que también han atraído la atención de los reguladores de privacidad europeos en las últimas semanas.

Lo que esto nos dice es que la exageración en torno a los asistentes de voz de AI es todavía pasar por alto un backend mucho menos tecnológico. A pesar de que las ataduras de marketing de aprendizaje automático se han utilizado para encubrir los componentes de "turco mecánico" (es decir, humanos) necesarios para que la tecnología cumpla con las afirmaciones.

Esta es una historia muy antigua de hecho. A saber: un completo década Hace poco, se informó que una startup del Reino Unido llamada Spinvox, que afirmaba tener tecnología avanzada de reconocimiento de voz para convertir mensajes de voz en mensajes de texto, se apoyaba en gran medida en los centros de llamadas en Sudáfrica y Filipinas … con personal, sí, humanos reales.

Volviendo a la tecnología actual "de vanguardia", luego del informe de Bloomberg, Facebook dijo que suspendió las transcripciones humanas a principios de este mes, uniéndose a Apple y Google al detener las revisiones manuales de fragmentos de audio para sus respectivas IA de voz. (Amazonas desde entonces ha agregado una opción de exclusión a la configuración de la aplicación Alexa).

Le preguntamos a Facebook en qué parte de la aplicación Messenger había estado informando a los usuarios que los contratistas humanos podrían ser utilizados para transcribir sus chats de voz / mensajes de audio; y cómo recolectó el consentimiento de los usuarios de Messenger para esta forma de procesamiento de datos, antes de suspender las revisiones humanas.

La empresa no respondió a nuestras preguntas. En cambio, un portavoz nos proporcionó la siguiente declaración: "Al igual que Apple y Google, detuvimos la revisión humana del audio hace más de una semana ".

Facebook también describió los fragmentos de audio que envió a los contratistas como enmascarados y desidentificados; dijo que solo se recopilaron cuando los usuarios habían habilitado la transcripción en Messenger; y solo se usaron para mejorar el rendimiento de la transcripción de la IA.

También reiteró una refutación de larga data por parte de la compañía a las preocupaciones de los usuarios sobre las escuchas generales por parte de Facebook, diciendo que nunca escucha los micrófonos de las personas sin el permiso del dispositivo ni sin la activación explícita de los usuarios.

Sin embargo, cómo Facebook reúne permiso para procesar datos es una pregunta clave.

La compañía recientemente, por ejemplo, utilizó un flujo de consentimiento manipulador para empujar a los usuarios en Europa a activar la tecnología de reconocimiento facial, revocando su postura anterior, adoptada en respuesta a una intervención reguladora anterior, de desconectar la tecnología en todo el bloque.

Por lo tanto, mucho se basa en cómo Facebook ha descrito exactamente el procesamiento de datos en cualquier momento en que solicita a los usuarios que den su consentimiento para que sus mensajes de voz sean revisados ​​por humanos (suponiendo que se basa en el consentimiento como base legal para procesar estos datos).

Además, es improbable que el consentimiento agrupado en términos y condiciones generales para el uso del producto cumpla con la ley de privacidad de la UE, dado que el Reglamento General de Protección de Datos del bloque requiere que el consentimiento tenga un propósito limitado, además de estar completamente informado y otorgado libremente.

Si Facebook confía en intereses legítimos para procesar fragmentos de audio de los usuarios de Messenger para mejorar el rendimiento de su IA, necesitaría equilibrar sus propios intereses contra cualquier riesgo para la privacidad de las personas.

Las AI de voz son especialmente problemáticas a este respecto porque las grabaciones de audio también pueden capturar los datos personales de los no usuarios, dado que las personas cercanas a un dispositivo (o de hecho una persona en el otro extremo de la línea telefónica que le está dejando un mensaje) podrían tener sus datos personales capturados sin haber tenido la oportunidad de dar su consentimiento para que los contratistas de Facebook puedan escucharlos.

Las filtraciones de fragmentos de Google Assistant a la prensa belga destacaron recientemente tanto la naturaleza sensible de las grabaciones como el riesgo de reidentificación que representan dichas grabaciones, con periodistas capaces de identificar a algunas de las personas en las grabaciones.

Múltiples informes de prensa también han sugerido que los contratistas empleados por gigantes tecnológicos están escuchando rutinariamente detalles íntimos capturados a través de una gama de productos que incluyen la capacidad de grabar audio y transmitir estos datos personales a la nube para su procesamiento.

Apple suspende la calificación de respuesta de Siri en respuesta a preocupaciones de privacidad

Google ordenó detener la revisión humana de las grabaciones de AI de voz sobre los riesgos de privacidad

El principal regulador de datos de la UE de Amazon hace preguntas sobre la privacidad de Alexa



Vende Todito