Gemini genera imágenes que distorsionan la historia y Google decide suspenderlo temporalmente

 Gemini genera imágenes que distorsionan la historia y Google decide suspenderlo temporalmente

ThisIsEngineering/Pexels

Google suspende Gemini, su avanzada herramienta de IA, tras detectar graves errores en la generación de imágenes, especialmente aquellas que representan personas y contextos históricos, llevando a la compañía a reevaluar y corregir los mecanismos de esta tecnología.

La herramienta Gemini de Google, que promete revolucionar la generación de imágenes con inteligencia artificial, se ha visto envuelta en una polémica significativa. Usuarios y críticos descubrieron que, al solicitar recreaciones de personajes históricos o situaciones del pasado, Gemini producía resultados inexactos y, en muchos casos, ofensivos.

Por ejemplo, la representación de soldados de la Alemania Nazi con rasgos que no corresponden a la realidad histórica subraya no solo un error en la interpretación de datos sino también una falta de sensibilidad hacia la precisión histórica y el respeto por las víctimas de estos períodos.

La suspensión de Gemini resalta varios desafíos inherentes al desarrollo de tecnologías de IA. En primer lugar, subraya la importancia de incorporar una comprensión profunda y matizada de la historia y la sociedad en estos sistemas.

Al mezclar inadecuadamente tonos de piel, géneros y rasgos culturales sin considerar el contexto, Gemini no solo distorsionaba la realidad sino que también corría el riesgo de perpetuar estereotipos o borrar las luchas históricas contra la discriminación y el racismo.

Varios usuarios de la herramienta también detectaron que al solicitar una imagen de un personaje histórico con rasgos caucásicos, Gemini no arrojaba los resultados solicitados. En cambio, solo creaba personajes de color, latinos o asiáticos, lo que muchos denunciaron como un sesgo importante, acusando a la IA de pasarse de «inclusiva» y ser racista con las personas blancas.

En respuesta, Google suspende Gemini

Frente a la creciente controversia, Google ha tomado medidas proactivas para abordar las deficiencias de Gemini. La compañía ha anunciado una pausa en la generación de imágenes de personas a través de esta herramienta, comprometiéndose a revisar y mejorar sus algoritmos.

Esta decisión, aunque temporal, refleja un reconocimiento de la responsabilidad que tiene Google de asegurar que sus innovaciones tecnológicas promuevan la inclusión y la precisión, evitando perpetuar inexactitudes o prejuicios.

«Somos conscientes de que Gemini ofrece imprecisiones en algunas representaciones de generación de imágenes históricas (…) Ya estamos trabajando para solucionar problemas recientes con la función de generación de imágenes de Gemini. Mientras hacemos esto, vamos a pausar la generación de imágenes de personas y pronto volveremos a publicar una versión mejorada», dijo la compañía en X.

El futuro de la IA generativa

La suspensión temporal de Gemini por parte de Google plantea preguntas importantes sobre el futuro de la IA generativa y su impacto en la sociedad. La promesa de estas tecnologías es indudable, ofreciendo posibilidades creativas y educativas sin precedentes. Sin embargo, este incidente sirve como un recordatorio crítico de que el desarrollo de IA debe ir de la mano con una consideración cuidadosa de sus implicaciones éticas y sociales.

La inclusión, la precisión histórica y la sensibilidad cultural deben ser pilares en la creación de estas herramientas, asegurando que la IA sirva como un puente hacia un futuro más informado y respetuoso, en lugar de distanciarnos de nuestra historia y nuestra humanidad.

También te puede interesar:

Ahora podrás agregar sonidos a tus vídeos creados con IA gracias a esta herramienta de ElevenLabs

Pierangela Morillo

Soy Pierangela, redactora especializada en reviews de software. Te ofrezco análisis detallados de aplicaciones para administrar empresas.

Quizás te interese...

Dejar un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

¡Prueba Nuestra Nueva Herramienta!

Suscríbete a nuestro Newsletter y desbloquea por completa nuestra herramienta de optimización de imágenes. Sube hasta 50 imágenes simultaneas para convertir, optimizar y geolocalizar con nuestra herramienta.