Google CEO promete solucionar los problemas de su herramienta de generación de imágenes Gemini

El CEO de Google, Sundar Pichai, abordó los recientes problemas de su herramienta Gemini de generación de imágenes impulsada por inteligencia artificial después de que comenzara a corregir excesivamente la diversidad en imágenes históricas. Llamó a los acontecimientos “inaceptables” y dijo que la compañía está “trabajando día y noche” en una solución, según un memo interno publicado por Semafor.

Un compromiso con la perfección

“Ninguna inteligencia artificial es perfecta, especialmente en esta etapa emergente del desarrollo de la industria, pero sabemos que el estándar es alto para nosotros y seguiremos trabajando en ello por el tiempo que sea necesario”, escribió Pichai a los empleados. “Revisaremos lo sucedido y nos aseguraremos de solucionarlo a gran escala”.

Pichai se mantiene optimista con respecto al futuro del chatbot Gemini, anteriormente llamado Bard, y señala que el equipo ya ha “visto una mejora sustancial en una amplia gama de solicitudes”. La generación de imágenes de Gemini permanecerá en pausa hasta que se resuelva completamente el problema.

Un error que comenzó con la diversidad

Todo comenzó cuando los usuarios de Gemini comenzaron a notar que el generador comenzó a producir imágenes históricamente inexactas, como imágenes de nazis y padres fundadores de Estados Unidos como personas de color. Esto se convirtió rápidamente en un gran tema en las redes sociales, con la palabra “despierto” siendo mencionada con frecuencia.

Prabhakar Raghavan, vicepresidente senior de conocimiento e información de Google, no culpó a la conciencia social, sino a una serie de errores de ajuste. Básicamente, el modelo se ajustó para permitir grupos diversos de personas en imágenes, pero “no tuvo en cuenta casos que claramente no deberían mostrar una variedad”. Esto llevó a imágenes controvertidas como personas de color que aparecen como vikingos y papas católicos nativos americanos.

Raghavan también dijo que el modelo se volvió más cauteloso con el tiempo, negándose ocasionalmente a responder ciertas solicitudes después de interpretarlas erróneamente como sensibles. Esto explica los informes de que el modelo se negó a generar imágenes de personas blancas.

Suena como si la compañía estuviera tratando de complacer a una audiencia global y asegurarse de que el modelo no cayera en algunas de las trampas de productos rivales, como crear imágenes sexualmente explícitas o representaciones de personas reales. Ajustar estos modelos de inteligencia artificial es un trabajo extremadamente delicado y el software puede ser fácilmente llevado a cometer errores ridículos. Es lo que hacen. En cualquier caso, prefiero un Papa católico históricamente inexacto a imágenes violentas inesperadas cualquier día de la semana. Anota esto como otro recordatorio de que la inteligencia artificial todavía tiene un largo camino por recorrer.

El futuro de Gemini

En cuanto a Gemini, la compañía promete que el generador de imágenes volverá en un futuro cercano, pero aún requiere una serie de correcciones y pruebas para asegurarse de que esto nunca vuelva a suceder, incluidos “cambios estructurales, pautas de productos actualizadas, procesos de lanzamiento mejorados, evaluaciones sólidas y recomendaciones técnicas”.

Este artículo apareció originalmente en Engadget en https://www.engadget.com/google-ceo-says-gemini-image-generation-failures-were-unacceptable-163748934.html?src=rss