Hay que » pausa « el avance de la inteligencia artificial, reclaman en una carta abierta publicada el martes 28 de marzo mil expertos e investigadores de la industria, incluido el director ejecutivo de Tesla, Elon Musk. Quieren suspender durante seis meses las investigaciones sobre sistemas más potentes que GPT-4, el nuevo modelo de procesamiento del lenguaje lanzado a mediados de marzo por OpenAI, la empresa detrás del robot conversacional ChatGPT, y que cofundó Elon Musk. Allá » romper « Debe usarse para desarrollar mejores protecciones para dicho software, considerado «peligroso para la humanidad».
“En los últimos meses, los laboratorios de inteligencia artificial se han enfrascado en una carrera descontrolada para desarrollar y probar cerebros digitales cada vez más potentes, que nadie, ni siquiera sus creadores, pueden comprender, predecir o controlar de forma fiable”.preocupan los firmantes, con referencia a los anuncios de OpenAI y su socio Microsoft, pero también los de Google o Meta, así como muchas start-ups.
“¿Deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y mentiras? ¿Deberíamos automatizar todos los trabajos, incluidos los gratificantes? ¿Necesitamos desarrollar mentes no humanas que algún día podrían ser más numerosas, más inteligentes y reemplazarnos? », pregunta a los autores.
Entre los firmantes se encuentra uno de los padres de la inteligencia artificial moderna, Yoshua Bengio, de la Universidad de Montreal. Pero también figuras de empresas “tech”: el CEO de StabilityAI Emad Mostaque, así como tres investigadores de Deepmind, filial de Google, o cofundadores de Apple, Pinterest o Skype.
«Sin ningún control ético»
El texto también cuenta con el respaldo de varios investigadores que, durante mucho tiempo, han hecho sonar la alarma sobre los riesgos de la IA, mientras esperaban su desarrollo: Max Tegmark, del Future of Life Institute, que acoge la carta, Stuart Russel de l Universidad de Berkeley, etc
Varios franceses son firmantes, entre ellos el especialista en inteligencia artificial Raja Chatila, profesor emérito de la Sorbona y miembro del grupo de trabajo del Comité Piloto Nacional de Ética Digital, al que ha pedido el Ministro Delegado de Digital, Jean-Noël Barrot. para una opinión sobre el auge de programas como ChatGPT. “Todo lo que está sucediendo en la IA en este momento está sucediendo sin ninguna supervisión ética o legal real. Las empresas están desplegando herramientas en la Web que tienen efectos beneficiosos”, explica este firmado » a título personal «. También están presentes ensayistas críticos con la tecnología en general, como Tristan Harris, del Center for Humane Technology o Yuval Noah Harari, autor de sapiens.
Te queda el 49,39% de este artículo por leer. Lo siguiente es solo para suscriptores.
