Google fait face aux risques produits IA, progresse sur la recherche d'agents

Google navigue un paysage complexe, confronté à des défis produits significatifs liés à la confiance et à la sécurité, même si ses branches de recherche repoussent les frontières des agents IA avancés. Les développements récents mettent en lumière une double approche : aborder les controverses actuelles tout en construisant agressivement les fondations d'un web plus autonome et piloté par l'IA.

Sur le front des produits, les outils d'IA de Google sont sous le feu des projecteurs. La société fait face à un procès intenté par l'animateur de longue date de NPR, David Greene, qui allègue que la voix masculine du podcast dans l'outil NotebookLM de Google est basée sur la sienne (TechCrunch AI). Ce cas souligne les préoccupations éthiques et juridiques croissantes concernant les médias synthétiques et le clonage vocal. Simultanément, les AI Overviews de Google, une fonctionnalité conçue pour résumer les résultats de recherche, ont été critiquées pour potentiellement induire les utilisateurs en erreur avec de la désinformation ou même promouvoir des contenus frauduleux (Wired AI). Ces incidents remettent en question la fiabilité et la sécurité des applications d'IA de Google accessibles au public.

Malgré ces défis immédiats, Google DeepMind et Google AI réalisent des avancées significatives dans le développement d'agents IA sophistiqués. Les chercheurs de DeepMind ont proposé un nouveau cadre pour la délégation intelligente de l'IA, visant à sécuriser le 'web agentique' émergent pour les futures économies. Cette recherche cherche à surmonter les limitations des systèmes multi-agents actuels, qui reposent souvent sur des heuristiques fragiles et codées en dur qui échouent dans des environnements dynamiques (MarkTechPost). Leur travail est crucial pour construire des programmes autonomes plus robustes et adaptables.

Pour améliorer davantage les capacités des futurs agents IA, Google AI a récemment introduit le WebMCP (Web-based Multi-Context Protocol). Cette innovation permet aux agents IA d'interagir directement et de manière structurée avec les sites web, dépassant les méthodes inefficaces et sujettes aux erreurs comme la capture d'écrans et l'utilisation de modèles de vision pour deviner les emplacements de clics (MarkTechPost). En transformant efficacement Chrome en un environnement plus convivial pour les agents, WebMCP promet de rendre les interactions web de l'IA plus rapides, plus fiables et moins gourmandes en calcul.

Cette dichotomie entre les problèmes actuels des produits et la recherche de pointe illustre le parcours complexe du développement de l'IA. Tandis que Google aborde des questions critiques de confiance, d'éthique et de sécurité dans ses produits déployés, ses divisions de recherche jettent les bases d'un avenir où les agents IA joueront un rôle beaucoup plus intégré et autonome, soulignant la tension constante entre l'innovation rapide et la mise en œuvre responsable.