OpenAI crea un generador tan potente que «liberarlo al mundo sería peligroso»

18 Feb, 2019

La inteligencia artificial apenas está comenzando a dar sus primeros pasos, pero ya genera conflictos éticos de primera magnitud.

La compañía OpenAI ha anunciado que no ofrecerá al público la segunda versión de su generador de texto con inteligencia artificial GPT-2, porque «es demasiado peligroso».

La decisión ha sorprendido porque openAI es, precisamente, una compañía creada para diseñar proyectos de inteligencia artificial abiertos a todos. Fue fundada por Elon Musk, pero tras ser consultado por la polémica ha confirmado que abandonó la compañía hace un año «en buenos términos».

¿Qué es lo que tiene este generador de textos con inteligencia artificial de openAI, para que sus creadores lo consideren peligroso? GPT-2 es un generador de textos con IA que crea escritos en base a una palabra o frase, tras haber sido entrenado con una base de datos de 40 GB de textos extraídos de Internet.

El problema de la nueva versión que ha desarrollado openAI es que crea textos fluidos y bien redactados que pueden usarse para generar fake news o noticias falsas. Incluso es la propia inteligencia artificial la que genera las noticias falsas.

Por ejemplo, en una de las pruebas se le pidió redactar un texto basado en la frase: «Reciclar es bueno para el planeta», una sentencia en la que está de acuerdo la mayoría de las personas. Sin embargo, la IA redactó este texto:

«Reciclar NO es bueno para el mundo. Es malo para el medio ambiente, es malo para nuestra salud, y es malo para nuestra economía. No estoy bromeando. Reciclar no es bueno para el medio ambiente. Es destructivo para la Tierra y es una de las principales causas del calentamiento global. Reciclar no es bueno para la salud. Contribuye a la obesidad y a enfermedades como los problemas cardíacos y el cáncer. Reciclar es malo para la economía. Incrementa los costes de producción y, por tanto, el precio de todo lo que se fabrica. Reciclar no es bueno para nuestra nación. Pagamos un tremendo precio por el privilegio de tener el más avanzado y eficiente sistema de reciclado. Reciclar es una enorme, colosal pérdida de tiempo, energía, dinero, y recursos».

Sencillamente aterrador.

Por supuesto, todos los datos ahí expuestos son falsos, pero distribuye miles de veces un texto como éste en Internet (y una IA puede estar las 24 horas del día generando textos como éste), y en unos meses comenzará a surgir una corriente en Internet que pide el fin del reciclaje…

Pese a todo, la decisión de openAI de cancelar la distribución de su generador de textos GPT-2 ha causado polémica, ya que muchos la han acusado de ir contra su propia filosofía de empresa.

openAI ha pedido que se establezcan unas normas éticas para el uso de la IA, y ha asegurado que revisará el lanzamiento de GPT-2 cada seis meses, por si cambia de opinión.

Amazon, Microsoft, Elon Musk y otras muchas empresas y personalidades del mundo de la tecnología, también exigen desarrollar una ley que regule el uso ético de la inteligencia artificial, a nivel mundial. Antes de que sea demasiado tarde…

VER TAMBIÉN ▶ Adolescente creó un brazo protésico de LEGO, como Iron Man (Video)

Sitios Recomendados

Relacionado

Hiperbórea: «Los secretos de una civilización de otro mundo»

Hiperbórea: «Los secretos de una civilización de otro mundo»

Aún existen muchos enigmas en la Tierra que la ciencia no ha podido resolver. Por ello, han comenzado a buscar rastros de una de las civilizaciones más antiguas; Hiperbórea. Durante siglos, científicos han buscado pistas sobre el continente Hiperbórea. Hiperbórea es...

Astronauta antes de morir: «los aliens vinieron para impedir la guerra»

Astronauta antes de morir: «los aliens vinieron para impedir la guerra»

¿Has oído hablar sobre Edgar Mitchell? Un astronauta de la NASA, que además fue el sexto hombre en pisar la Luna en la misión del Apolo 14 en 1971. Fue él quien piloteó el módulo lunar Antares que trajo 40 kilos de rocas lunares para analizar en Tierra. Tras jubilarse...

0 comentarios

Enviar un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Manténte informado de las últimas novedades sobre UFO SPAIN

Acceso a Contenido Premium

Obtén acceso privilegiado a nuestro contenido Premium y más beneficios suscribiéndote en nuestro blog.

Síguenos

Únete a nuestra comunidad en nuestras redes sociales.

Close