Herramientas de IA de Google se enfrentan a demandas, riesgos de estafa y clonación de modelos en su integración web

El ambicioso impulso de Google en inteligencia artificial está navegando actualmente por un complejo panorama de innovación significativa, desafíos legales y obstáculos operativos críticos. El gigante tecnológico está lanzando simultáneamente herramientas diseñadas para potenciar los agentes de IA, mientras lidia con demandas por presunta infracción de propiedad intelectual y se enfrenta a problemas de integridad del modelo y seguridad del usuario.

Un desafío destacado proviene de una demanda presentada por David Greene, un presentador de larga data de “Morning Edition” de NPR. Greene está demandando a Google, alegando que la voz masculina distintiva utilizada en la herramienta NotebookLM de Google se basa en su propia semejanza vocal, lo que plantea preguntas pertinentes sobre los derechos de voz y los datos de entrenamiento de IA. Esta batalla legal subraya el creciente escrutinio sobre cómo los modelos de IA adquieren y utilizan datos, especialmente cuando se refieren a la identidad individual, según informó TechCrunch AI.

Más allá de las disputas legales, las AI Overviews de Google, una característica clave en sus resultados de búsqueda, también están siendo criticadas por generar información potencialmente dañina o engañosa. Los informes indican que estos resúmenes de IA pueden ser explotados para inyectar "información deliberadamente errónea", llevando a los usuarios por caminos que podrían resultar en estafas u otros resultados negativos. Esto resalta una batalla crucial por la confianza y la precisión en la búsqueda impulsada por IA, como se detalla en Wired AI.

Para añadir complejidad, Google y OpenAI, dos empresas construidas sobre el procesamiento de vastos conjuntos de datos, ahora expresan preocupación por los "ataques de destilación". Estos métodos permiten a los atacantes "clonar" modelos de IA sofisticados y multimillonarios sin incurrir en los significativos costos de entrenamiento, creando efectivamente réplicas baratas. Esto representa una amenaza sustancial para la propiedad intelectual y los modelos de negocio de los principales desarrolladores de IA, a pesar de la ironía de que sus propias prácticas de adquisición de datos sean cuestionadas, según The Decoder.

En medio de estos desafíos, Google avanza con nuevos avances tecnológicos. La compañía introdujo recientemente WebMCP (Web-based Mixed-Content Protocol), un nuevo marco diseñado para mejorar cómo los agentes de IA interactúan con los sitios web. WebMCP tiene como objetivo reemplazar el ineficiente método de screen-scraping y la suposición de modelos de visión con una interacción directa y estructurada, convirtiendo efectivamente a Chrome en un "campo de pruebas para agentes de IA" más robusto. Esta innovación promete hacer que los agentes de IA sean más rápidos, confiables y requieran menos cómputo en sus operaciones web, como se anunció en MarkTechPost.