Informe del Reino Unido advierte que DeepMind Health podría ganar 'poder de monopolio excesivo'


La incursión de DeepMind en los servicios digitales de salud continúa suscitando preocupación. Las últimas preocupaciones son expresadas por un panel de revisores externos nombrados por la compañía de inteligencia artificial propiedad de Google para informar sobre sus operaciones después de que sus acuerdos iniciales de intercambio de datos con el Servicio Nacional de Salud (NHS) del Reino Unido se toparan con una gran controversia pública en 2016 .

El informe de los revisores independientes de DeepMind Health 2018 señala una serie de riesgos e inquietudes, tal como lo ven, incluido el potencial de que DeepMind Health pueda "ejercer un poder de monopolio excesivo" como resultado de la infraestructura de acceso y transmisión de datos que se incluye con la provisión de la aplicación Streams y que, contractualmente, posiciona a DeepMind como el intermediario de control de acceso entre los datos de salud estructurados y cualquier otro tercero que pueda, en el futuro, querer para ofrecer sus propias soluciones de asistencia digital al Fideicomiso.

Mientras que el FHIR subyacente (también conocido como recurso rápido de interoperabilidad sanitaria) implementado por DeepMind para Streams usa una API abierta, el contrato entre la compañía y Royal Free Trust canaliza conexiones a través de los servidores de DeepMind, y prohíbe conexiones a otros servidores FHIR. Una estructura comercial que aparentemente funciona en contra de la apertura e interoperabilidad. El cofundador de DeepMind, Mustafa Suleyman, ha afirmado que apoya.

" Hay muchos ejemplos en el área de TI donde las empresas bloquean a sus clientes en sistemas que son difíciles de cambiar o reemplazar. Tales arreglos no son en interés de el público. Y no queremos que DeepMind Health se coloque en una posición en la que los clientes, como los hospitales, se vean obligados a permanecer con DeepMind Health, incluso si ya no es financieramente o clínicamente sensato hacerlo; queremos que DeepMind Health compita en calidad y precio, no al afianzar la posición heredada, "escriben los revisores.

Aunque señalan [el compromiso] de DeepMind a la interoperabilidad de los sistemas, "Y" su adopción de la API abierta FHIR "como indicaciones positivas, escribiendo:" Esto significa que hay muchas otras PYMES interesadas en participar, creando un mercado diverso e innovador que funciona en beneficio de los consumidores, la innovación y la economía . "

" También notamos la intención de DeepMind Health de implementar muchas de las características de Streams como módulos que podrían intercambiarse fácilmente, lo que significa que tendrán que confiar en ser los mejores para mantenerse en el negocio ", agregaron. .

Sin embargo, las intenciones declaradas y los potenciales futuros claramente no son lo mismo que la realidad sobre el terreno. Y, tal como está, una infraestructura de entrega de aplicaciones técnicamente interoperable está siendo gravada por cláusulas prohibitivas en un contrato comercial y por la falta de retroceso regulatorio contra tal comportamiento.

Los revisores también expresan su preocupación por la falta de claridad en torno a Modelo de negocio de DeepMind Health: " Dado el entorno actual, y sin claridad sobre el modelo comercial de DeepMind Health, las personas probablemente sospechen que debe haber un motivo de lucro no divulgado o una agenda oculta. No creemos que este sea el caso, pero instamos a DeepMind Health a ser transparente con respecto a su modelo de negocio y su capacidad para cumplirlo sin ser reemplazado por Alphabet. Una vez que una idea de las agendas ocultas se fija en la mente de las personas, es difícil cambiarla, sin importar cuánto esté motivada por el bien público ".

" Hemos tenido detalles conversaciones sobre los pensamientos cambiantes de DeepMind Health en esta área, y son conscientes de que algunas de estas preguntas aún no se han finalizado. Sin embargo, instamos a DeepMind Health a que exponga públicamente lo que proponen ", añaden.

DeepMind ha sugerido que quiere construir AIs de atención médica que sean capaces de cargar según los resultados. Pero Streams no involucra ninguna IA. El servicio también se proporciona a NHS Trusts de forma gratuita, al menos durante los primeros cinco años, lo que plantea la cuestión de cómo exactamente la empresa propiedad de Google intenta recuperar su inversión.

Google monetiza por supuesto una gran suite de free- productos de consumo en el punto de uso, como el sistema operativo móvil Android; su servicio de correo electrónico en la nube Gmail; y la plataforma de videos compartidos de YouTube, por nombrar tres, recolectando los datos personales de las personas y usando esa información para informar a sus plataformas de orientación.

De ahí la recomendación de los revisores para que DeepMind exponga su pensamiento sobre su modelo comercial para evitar sus intenciones vis-a-vis los datos médicos de las personas que se ven con recelo.

El modus operandi histórico de la compañía también subraya los riesgos de monopolio potenciales si se permite que DeepMind forje una posición de plataforma dominante en la prestación digital de atención médica, dada la eficacia con que capaz de convertir un sistema operativo móvil para OEM (Android) en el mercado global de sistemas inteligentes de teléfono inteligente, por ejemplo.

Así, mientras que DeepMind solo tiene un puñado de contratos con NHS Fideicomisos para la aplicación Streams y la infraestructura de entrega en esta etapa, las preocupaciones de los revisores sobre el riesgo de que la empresa gane el "poder de monopolio excesivo" no parecen exageradas.

y también están preocupados por la vaguedad constante de DeepMind acerca de cómo funciona exactamente con su Alphabet padre, y qué datos podrían ser transferidos al gigante publicitario, una combinación inevitablemente mareada cuando se compara con el manejo de registros médicos de personas de DeepMind.

¿En qué medida puede DeepMind Health aislarse contra Alphabet instruyéndolos en el futuro a hacer algo que ha prometido no hacer hoy? O, si la gerencia actual de DeepMind Health abandonara DeepMind Health, ¿cuánto podría un nuevo CEO alterar lo que se ha acordado hoy? "Escriben.

" Agradecemos que DeepMind Health siga estando sujeto al marco legal y regulatorio , pero gran parte de nuestra atención se centra en los pasos que ha tomado DeepMind Health para adoptar una postura más ética de lo que exige la ley; ¿Podría esto ser terminado? Alentamos a DeepMind Health a buscar maneras de consolidar su separación de Alphabet y DeepMind de manera más robusta, para que pueda tener una fuerza duradera para los compromisos que realiza ".

Respondiendo a la publicación del informe en su sitio web, DeepMind escribe que es" desarrollando nuestro modelo de negocio y hoja de ruta a más largo plazo. "

" En lugar de cobrar por las primeras etapas de nuestro trabajo, nuestra primera prioridad ha sido demostrar que nuestras tecnologías pueden ayudar a mejorar la atención del paciente y reducir los costos. Creemos que nuestro modelo comercial debe fluir del impacto positivo que creamos, y seguiremos explorando los elementos basados ​​en los resultados para que los costos estén, al menos en parte, relacionados con los beneficios que ofrecemos ", continúa.

Por lo tanto, no tiene nada para desactivar las inquietudes de los revisores sobre hacer evidentes sus intenciones de monetizar los datos de salud, más allá de implementar algunas selectas citas de audio y video.

En sus vínculos con Alphabet, DeepMind también tiene poco que decir, solo escribe eso: "Exploraremos formas adicionales de garantizar que haya claridad sobre los marcos jurídicos vinculantes que rigen todas nuestras asociaciones del NHS. "

" Los fideicomisos conservan el control total de los datos en todo momento ", agrega. "Estamos legalmente y contractualmente obligados a utilizar solo los datos del paciente bajo las instrucciones de nuestros socios. Continuaremos haciendo nuestros acuerdos legales con Fideicomisos públicamente disponibles para permitir el escrutinio de este importante punto. "

" T aquí no hay nada en nuestros acuerdos legales con nuestros socios que les impida trabajar con cualquier otro procesador de datos, si desean buscar los servicios de otro proveedor, "también afirma en respuesta a preguntas adicionales que le planteamos.

" Esperamos que Streams pueda ayudar a desbloquear la próxima ola de innovación en el NHS. La infraestructura que impulsa a Streams se basa en estándares abiertos e interoperables de última generación, conocidos como FHIR. El estándar FHIR cuenta con el respaldo en el Reino Unido de NHS Digital, NHS England y el grupo INTEROPen. Esto debería permitir que nuestros socios confíen más fácilmente con otros desarrolladores, ayudándoles a aportar muchas más innovaciones nuevas a la línea clínica, "agrega en comentarios adicionales para nosotros.

" De acuerdo con nuestros acuerdos contractuales con los fondos de inversión de socios relevantes, tenemos comprometidos a construir la infraestructura FHIR API dentro de los términos de cinco años de los acuerdos. "

Cuando se le preguntó sobre el progreso que se hizo en una infraestructura de auditoría técnica para verificar el acceso a los datos de salud, que anunció el año pasado, reiteró la redacción en su blog , diciendo: "Nos mantendremos vigilantes para establecer los estándares más altos posibles de gobernanza de la información. A principios de este año, nombramos un Administrador de Gobierno de la Información a tiempo completo para supervisar el uso de los datos en todas las áreas de nuestro trabajo. También seguimos construyendo nuestra Auditoría de datos verificables y otras herramientas para mostrar claramente cómo estamos usando los datos. "

Así que los desarrollos en ese frente parecen tan lentos como esperábamos.

Comenzó la compañía de IA del Reino Unido propiedad de Google. su impulso a los servicios digitales de salud en 2015, firmando tranquilamente un acuerdo de intercambio de información con NHS Trust con sede en Londres que le dio acceso a alrededor de 1,6 millones de registros médicos de personas para desarrollar una aplicación de alertas para una afección llamada Lesión Renal Aguda.

También firmó un memorando de entendimiento con el Fideicomiso donde el par estableció su ambición de aplicar AI a los conjuntos de datos del NHS. (Incluso llegaron tan lejos como para obtener un sello ético para un proyecto de IA) pero siempre han afirmado que los datos de Royal Free no se suministraron a ninguna IA)

Sin embargo, la colaboración de intercambio de datos tuvo problemas en mayo de 2016 cuando se reveló el alcance de los datos de los pacientes compartidos por Royal Free con DeepMind (a través del periodismo de investigación, en lugar de las revelaciones del Trust o DeepMind).

Ninguno de los ~ 1.6 millones de personas cuyos registros médicos no se han anonimizado pasado a la empresa propiedad de Google había sido informado o pedido su consentimiento. El regulador de privacidad del Reino Unido concluyó una investigación del proyecto el verano pasado, y descubrió que Royal Free NHS Trust había roto las reglas de protección de datos durante el desarrollo de la aplicación.

Sin embargo, a pesar de las preguntas éticas y la inquietud regulatoria sobre la legalidad del intercambio de datos, el proyecto Streams continuó su avance. Y Royal Free Trust pasó a implementar la aplicación para uso de los médicos en sus hospitales, mientras que DeepMind también ha firmado varios contratos adicionales para implementar Streams a otros NHS Trusts.

Más recientemente, el bufete de abogados Linklaters completó una auditoría de la Proyecto Royal Free Streams, luego de haber sido encargado por el Fideicomiso como parte de su acuerdo con el ICO. Aunque esta auditoría solo examinó el funcionamiento actual de Streams. (No se ha realizado una auditoría histórica de la legalidad de los registros médicos de las personas durante la fase de construcción y prueba del proyecto)

Linklaters recomendó que Royal Free finalice su MoU más amplio con DeepMind, y la confianza nos ha confirmado que seguirá los consejos de la empresa.

"La auditoría recomienda que finalicemos el histórico memorando de entendimiento con DeepMind, que se firmó en enero de 2016. El MOU ya no es relevante para la asociación y estamos en el proceso de terminarlo ", Nos dijo un portavoz de Royal Free.

Así que DeepMind, probablemente la compañía de IA más famosa del mundo, se encuentra en la curiosa situación de estar involucrado en la provisión de servicios digitales de salud a hospitales del Reino Unido que en realidad no involucran ninguna IA. (Aunque también tiene algunos proyectos de investigación de IA en curso con NHS Trusts.)

A mediados de 2016, en el momento álgido del escándalo de datos Royal Free DeepMind, y en un intento de fomentar una mayor confianza pública, la compañía nombró el panel de revisores externos que ahora han producido su segundo informe mirando cómo está funcionando la división.

Y es justo decir que ha sucedido mucho en la industria tecnológica desde que el panel fue designado para socavar aún más la confianza pública en plataformas tecnológicas y promesas algorítmicas: incluida la conclusión de la ICO de que el acuerdo inicial de intercambio de datos entre Royal Free y DeepMind rompió las leyes de privacidad del Reino Unido.

Los ocho miembros del panel para el informe de 2018 son: Martin Bromiley OBE; Elisabeth Buggins CBE; Eileen Burbidge MBE; Richard Horton; Dr. Julian Huppert; Profesor Donal O'Donoghue; Matthew Taylor; y Profesor Sir John Tooke.

En su último informe, los revisores externos advierten que la opinión pública sobre los gigantes tecnológicos ha "cambiado sustancialmente" frente a lo que era hace un año, afirmando que " las cuestiones de privacidad en la era digital son, en todo caso, de mayor preocupación ".

Al mismo tiempo, los políticos también miran más críticamente las obras y los impactos sociales de los gigantes tecnológicos.

Aunque el gobierno del Reino Unido también ha estado interesado en posicionarse como un partidario de AI, proporcionando fondos públicos para el sector y, en su documento técnico de Estrategia Industrial, identificando AI y datos como uno de los cuatro llamados "Grandes Desafíos" donde cree que el Reino Unido puede " liderar el mundo en los años venideros ", incluyendo específicamente el control de nombres de DeepMind como una de las pocas empresas de inteligencia artificial de vanguardia para que el país se sienta orgulloso.

Aún así, preguntas sobre cómo administrar y regular el sector público los datos y las implementaciones de inteligencia artificial, especialmente en áreas altamente sensibles como la atención médica, deben ser claramente abordados por el gobierno.

Mientras tanto, la invasión de las tecnologías digitales en el espacio sanitario, incluso cuando los técnicos ni siquiera involucran a una IA – ya están presentando grandes desafíos al presionar sobre las reglas y estructuras de gobernanza de la información existentes, y elevar el espectro del riesgo monopólico.

Preguntaron si ofrece alguna guía a NHS Trusts sobre asistencia digital para médicos, incluyendo específicamente si se requieren múltiples opciones ser ofrecido por diferentes proveedores, el proveedor de servicios digitales del NHS, NHS Digital, remitió nuestra pregunta al Departamento de Salud (DoH), diciendo que es una cuestión de política de salud.

El DoH a su vez remitió la pregunta a NHS Digital. , el organismo ejecutivo no departamental que encarga contratos y establece prioridades e instrucciones para el servicio de salud en Inglaterra [196]. 59006] Y al momento de escribir, todavía estamos esperando una respuesta del cuerpo directivo.

En última instancia, parece que corresponderá al servicio de salud establecer una estructura clara y robusta para AI y digital servicios de decisión que fomentan la competencia por diseño mediante el requisito de que los Fideicomisos respalden múltiples opciones independientes cuando adquieran aplicaciones y servicios.

Sin ese importante control y equilibrio, el riesgo es que la dinámica de la plataforma domine y controle rápidamente la emergente salud digital el espacio de asistencia, así como la gran tecnología ha dominado la tecnología de consumo.

Pero las decisiones y los conjuntos de datos de salud financiados con fondos públicos no deberían entregarse simplemente a la entidad dominante del mercado que está dispuesta y es capaz de quemar la mayor cantidad de recursos para poseer el espacio. 19659003] Tampoco debe el gobierno esperar y no hacer nada cuando existe un claro riesgo de que un área vital de la innovación digital corra el riesgo de ser cerrada por un gigante de la tecnología que entra y sale colocándose como guardián antes que otros hayan tenido la oportunidad de mostrar de qué están hechas sus ideas, y antes incluso de que un mercado haya tenido la oportunidad de formarse.



VendeTodito