Los nuevos sistemas de IA podrían constituir un riesgo para la humanidad.
Un exejecutivo de Google señaló sobre los peligros de la inteligencia artificial y afirmó que las máquinas impulsadas por esta podrían llegar a ver a los humanos como «escoria» e incluso pensar en conspirar para acabar con estos.
Mo Gawdat, quien pasó más de una década como director general de X Development, laboratorio conocido antes como Google X, enfocado en proyectos que incluyen IA y robótica, cree que esta tecnología «tiene la capacidad de crear máquinas asesinas porque los humanos las están creando».
La IA podría crear exterminadores en la medida en que sea capaz de «generar su propia potencia informática y realizar instalaciones por sí misma a través de brazos robóticos».
Gawdat confirió este escenario con el futuro distópico que presenta la película de ciencia ficción “Yo, robot”, en la cual la IA decide que necesita tomar el control y eliminar a los humanos.
Las probabilidades de que la IA piense en la raza humana como «escoria» es «muy alto» porque los modelos de aprendizaje que la entrenan aprenden a partir del universo creado en línea, donde abundan las malas noticias, la ira y el odio, y esto podría incentivar a la IA a ver la especie como malvada y como una amenaza.
También Gawdat insistió en que ya es demasiado tarde para deshacer los avances en esta materia, principalmente debido a que las empresas tecnológicas están demasiado involucradas financieramente para dar marcha atrás.
Cito Mo Gawdat «Científicos muy destacados y líderes empresariales están diciendo: ‘Detengamos el desarrollo de la IA’, pero esto nunca sucederá, no por problemas tecnológicos, sino por el dilema comercial. Si Google está desarrollando IA y teme que Facebook le derrote, no se detendrá porque tiene la certeza absoluta de que, si se detiene, alguien más no lo hará».
El experto enfatiza que todavía falta mucho para que suceda lo que pronostica y considera que, definir qué tan rápido llegue ese día depende del hombre y de la energía que decida dedicar de aquí en adelante a esas máquinas.
Gawdat no es el único con una posición fatalista alrededor del tema. El científico Geoffrey Hinton, considerado el “padrino” de la IA, coincide en que los nuevos sistemas de IA podrían constituir un riesgo para la humanidad.
Que no solo generen su propio código informático, sino que lo ejecuten por sí mismos y desarrollen comportamientos inesperados, por lo que teme que algún día esta tecnología pueda dar paso a las armas verdaderamente autónomas, como los robots asesinos que se han popularizado en la ciencia ficción.