El Diario Nica

CEO de Google no sabe cómo funciona su chatbot

La IA como la tecnología más profunda en la que está trabajando la humanidad.

La multinacional Alphabet Inc., admitió que no «entiende completamente» cómo funciona Bard, el nuevo chatbot de la compañía.

Sundar Pichai, director ejecutivo de la empresa matriz de Google, expresó que no comprende del todo el funcionamiento del nuevo programa de inteligencia artificial (IA) desarrollado por la compañía, después de que aprendiera un idioma extranjero, el bengalí, para el que no estaba capacitado y citó libros falsos para resolver un problema económico.

Pichai , destacó que «Hay un aspecto de esto que llamamos […] una ‘caja negra’. Sabes, no lo entiendes del todo». «Y no puedes decir por qué dijo esto, o por qué se equivocó. Tenemos algunas ideas, y nuestra capacidad para entender esto mejora con el tiempo. Pero ahí es donde está el estado del arte».

Scott Pelley, su entrevistador se sorprendió y respondió: «No entiende completamente cómo funciona. Y, sin embargo, ¿lo ha soltado a la sociedad?».  Y responde Pichai «Sí. Déjame exponerlo de esta manera. Tampoco creo que entendamos completamente cómo funciona una mente humana».

Asimismo, Pichai enfatizó que Google está siendo responsable al no lanzar modelos avanzados de su chatbot, Bard, en parte, para que la sociedad pueda acostumbrarse a la tecnología y la compañía pueda desarrollar más capas de seguridad

Todo esto a pesar de que ChatGPT de OpenAI ha abierto una carrera para avanzar con las herramientas de IA a un ritmo mucho más rápido.

También explicó que Bard ha incorporado filtros de seguridad para ayudar a combatir la amenaza de usuarios malintencionados. También enfatizó que la compañía necesitará actualizar constantemente los algoritmos del sistema para combatir las campañas de desinformación y detectar ultrafalsificaciones, imágenes generadas por computadora que parecen reales.

El CEO aseguró que el principio rector ‘No seas malvado’, establecido por los fundadores de Google, estaba destinado a garantizar que la empresa hiciera cosas buenas por el mundo y añadió que esta norma permanece en el código de conducta de Google.

Preguntado acerca de qué es lo que le quita el sueño en relación con la IA, Pichai señaló: «La urgencia de trabajar y desplegarla de manera beneficiosa. Pero al mismo tiempo, puede ser muy perjudicial si se implementa incorrectamente».

Siempre he pensado en la IA como la tecnología más profunda en la que está trabajando la humanidad. Más profunda que el fuego o la electricidad o cualquier cosa que hayamos hecho en el pasado.