La carta abierta, firmada por destacadas personalidades del mundo tecnológico como Elon Musk, Steve Wozniak (co-fundador de Apple), Jaan Tallinn (co-fundador de Skype) y Max Tegmark (MIT), hace un llamado a todos los laboratorios de IA para que detengan temporalmente el entrenamiento de sistemas de IA que superen la potencia de GPT-4 durante al menos seis meses.
La razón detrás de esta petición es cuestionar el rápido progreso de los sistemas de inteligencia artificial y sus posibles implicaciones éticas y sociales. La carta ha sido firmada por más de mil personalidades del mundo tecnológico que comparten la preocupación de que la tecnología esté avanzando a un ritmo que puede ser peligroso y que requiere más discusión y reflexión antes de continuar avanzando en su desarrollo.
La carta deja claro que el desarrollo de sistemas de IA puede representar un cambio profundo en la historia, siempre que se gestione y planifique adecuadamente. Los firmantes argumentan que incluso los creadores de estos sistemas son actualmente incapaces de comprender o predecir de manera confiable su comportamiento.
«Los sistemas de IA contemporáneos están comenzando a competir con los humanos en tareas generales, y debemos preguntarnos: ¿Deberíamos permitir que las máquinas inunden nuestros canales de información con propaganda y falsedades? ¿Deberíamos automatizar todos los trabajos? ¿Deberíamos desarrollar mentes no humanas que eventualmente superarnos en número, inteligencia, obsolescencia y reemplazo?»
Si cambiamos nuestro enfoque a GPT-4, la carta no alude a una pausa completa en el desarrollo de IA, sino a aquellos sistemas con mayor capacidad que GPT-4. Piden «un paso atrás» en la carrera hacia «modelos impredecibles con capacidades cada vez más emergentes». El punto principal es que el desarrollo actual debe centrarse en «hacer que los poderosos sistemas de vanguardia sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales».
En otras palabras, pausar el desarrollo de capacidades cada vez más superiores para comenzar a trabajar profundamente en el control y confiabilidad de estos sistemas.