- La IA podría convertirse en “una amenaza para la humanidad” acuerdan más de 1,800 expertos del sector tecnológico en una carta abierta.
- Los especialistas, entre los que se cuenta Elon Musk, piden una pausa de 6 meses a los desarrollos que llevan adelante los laboratorios de inteligencia artificial.
- Desde el lanzamiento de ChatGPT a finales del año pasado, las preocupaciones estallaron ante una potencial deriva negativa de esa tecnología.
Como los buenos de una película de ciencia ficción, un enorme grupo de expertos en tecnología hicieron un llamado a la prudencia con la IA. En una carta pública firmada por más de 1,800 especialistas, se solicita a los laboratorios que apliquen una pausa de 6 meses. Temen que una tecnología superior a GPT-4 pueda resultar en una amenaza para la sociedad.
La misiva fue redactada desde Future of Life Institute y su principal objetivo es evitar las consecuencias negativas de este tipo de tecnología. El escrito teme que la Inteligencia Artificial sea capaz de sustituir las facultades humanas en las más diversas áreas. Desde hace meses, las voces más alarmistas alertan que el desarrollo tendrá como resultado una especie humana más pasiva en todos los sentidos.
En consecuencia, si la tecnología cumple todas las tareas manuales y digitales rápidamente y con un rango de error menor, la inteligencia humana quedaría obsoleta. En un futuro no muy lejano, para las empresas sería contra productivo emplear seres humanos para los trabajos que requieren. Esto podría derivar en una realidad distópica y allí hace especial énfasis la carta a la hora de pedir moderación.
El texto va más allá y alerta que las empresas desarrolladoras podrían estar creando una situación de mando para la que no fueron elegidas. Así, podrían estar tomando decisiones que afectan la vida de millones de personas de la peor manera.
Artículo relacionado
Inversiones en IA: ¿una nueva edición de la fiebre meme?
El violento surgimiento de la herramienta ChatGPT hizo estallar un montón de entusiasmo vinculado a la Inteligencia Artificial. Los inversores,...
Con la llegada de la IA queda en jaque el intelecto humano
Aunque pueda sonar alarmista, los autores del texto están convencidos de que el cerebro humano sería uno de los primeros afectados. En ese sentido, con la IA procesando pensamiento perfecto y soluciones de problemas, los ciudadanos comunes quedarían como mascotas de esas tecnologías y de las empresas que están detrás de la misma.
“Los sistemas de IA contemporáneos ahora se están volviendo competitivos para los humanos en tareas generales, y debemos preguntarnos: ¿Deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedad?”, cuestiona la carta. Más adelante, y con un tono distópico, se hace preguntas aún más inquietantes:
“¿Deberíamos automatizar todos los trabajos?, ¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más inteligentes y dejarnos obsoletos para reemplazarnos?, ¿Deberíamos arriesgarnos a perder el control sobre nuestra civilización?”
Con estas advertencias, la mencionada organización con sede en Cambridge, intenta crear las bases para un desarrollo ético y responsable de la tecnología. Entre los fundadores de este instituto figura el cosmólogo del MIT, Max Tegmark y el cofundador de Skype, Jaan Talliin. La misiva ganó mayor relevancia con la firma de la misma por parte de figuras relevantes del mundo tecnológico.
Entre los personajes que suscribieron la alerta se cuenta el CEO de SpaceX y Tesla, Elon Musk, y el cofundador de Apple, Steve Wozniak. El grupo de conocedores que comparten la preocupación del instituto supera cómodamente las 1,800 personas. De tal manera, se constituye el primer golpe de reacción frente a los desarrollos que tienen relación con la IA.
El propio Musk ha sido un contante crítico del desarrollo de esta tecnología sin que exista una regulación que evite que sobrepasen sus funciones. Seguir sin frenos, opina, podría acarrear daños irreversibles para la estabilidad de la sociedad.
OpenAI “se desvió de su camino original”
Es importante tener presente que el CEO de Tesla fue uno de los cofundadores de OpenAI en 2015. No obstante, el magnate abandonó la mesa de accionistas de la creadora de GPT-3.5 y GPT-4 en 2018 y desde entonces se desconectó de la misma. Con el reciente boom de la compañía, el multimillonario la ha criticado repetidas veces diciendo que se desvió de su camino original.
Hasta ahora, la directiva de OpenAI no se ha pronunciado sobre el impacto que tiene la carta del instituto en la visión general sobre sus productos. Algunas autoridades regulatorias también comienzan a mostrar sus inquietudes. Tal es el caso del gobierno británico, el cual publicó un White Paper el pasado miércoles en el que abordan los desafíos de la IA.
En el documento piden a los reguladores de todo el mundo seguir de cerca el desarrollo de esa tecnología. Los avances como ChatGPT se convirtieron en una sensación y muchos expertos creen que estos son el futuro de las búsquedas por internet. El avance de los mismos provocó que promesas tecnológicas como el metaverso quedaran rezagadas en la fascinación de los inversores y público en general.
Incluso, ya se contempla la combinación de la IA con las criptomonedas. Recientemente, se conoció que mediante una API del sistema operativo, Umbrel, los nodos de Bitcoin podrán usar ChatGPT. Con esto se puede tener una idea general acerca del camino que está tomando este desarrollo y cómo podría afectar la vida de millones de personas.
GPT-4 apareció en el mercado a mediados de mes y en su médula es mucho más avanzado que su predecesor GPT-3.5. El chat se hizo viral rápidamente gracias a sus habilidades cuasi humanas para responder a las preguntas de las personas. Aunque en algunas oportunidades “pierde la cabeza”, la capacidad de generar respuestas asombra a los usuarios.
Una pausa supervisada y auditada
Pero la pausa que piden los expertos no debe ser un descanso para continuar luego con fuerzas redobladas. Al contrario, se trata de un período en el que los desarrollos que se llevan adelante deben ser auditados públicamente. El objetivo sería dar a conocer los riesgos reales de estas herramientas cuando se manejan irresponsablemente.
Actualmente, los laboratorios de Inteligencia Artificial están desarrollando a un ritmo frenético “para implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden comprender, predecir o controlar de forma fiable”. La competencia entre algunas compañías como Microsoft y Alphabet podría ser la fuerza que abra la caja de Pandora, alertan. De esto se desprende que sea necesario tomar medidas urgentes.
“Esta pausa debe ser pública y verificable, e incluir a todos los actores clave. Si tal pausa no se puede implementar rápidamente, los gobiernos deberían intervenir e instituir una suspensión”
La carta de los especialistas sugiere que las empresas están colocando los intereses y la competencia por encima de la evaluación de los riesgos. Subrayan que la Inteligencia Artificial es una tecnología que tienen la misión de cambiar radicalmente la historia de la vida sobre la Tierra. Esto último se traduce en que se debe abordar, gestionar y planificar con el cuidado correspondiente y el adecuado nivel de recursos, expresan. No obstante, agregan: “desafortunadamente, ese nivel de planificación y gestión no está sucediendo”.
“Los sistemas potentes de IA deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables”, complementan. Con eso aclaran que no tienen nada en contra del desarrollo de la IA, sino con la forma anárquica como se está abordando actualmente.
Artículo relacionado
Acciones de IA a considerar en 2023
Desde principios del pasado año 2022, las acciones de las tecnológicas fueron cruelmente golpeadas por las condiciones macroeconómicas. La inflación...
La IA provocaría la desaparición de 300 millones de empleos
Otra de las grandes preocupaciones vinculadas a la Inteligencia Artificial es la capacidad que tendrá de sustituir el trabajo humano. De acuerdo a una reciente investigación del banco Goldman Sachs, la IA sería capaz de reemplazar 300 millones de empleos a tiempo completo.
En Europa y Estados Unidos, apunta el trabajo, esa tecnología podría reemplazar una cuarta parte de las tareas laborales. Asimismo, el informe agrega que existen lados positivos, puesto que la IA generaría nuevos puestos de trabajo hasta ahora desconocidos. Además, la productividad del trabajo sería llevada a un nivel mayor. De cualquier modo, los expertos están de acuerdo en que ahora es difícil predecir el impacto en el mercado laboral.
La propia empresa desarrolladora de GPT-4 alerta sobre los estragos que pudiera causar esa tecnología con futuros desarrollos. “Una superinteligencia desalineada podría causar graves daños al mundo. Un régimen autocrático con una inteligencia tomando decisiones podría hacer eso también”, afirman en una publicación citada por la BBC.
En ese mismo orden, OpenAI dice que la supervisión es necesaria. “En algún punto, puede ser importante obtener una revisión independiente antes de comenzar a entrenar sistemas futuros, y para los esfuerzos más avanzados acordar limitar la tasa de crecimiento de la computación utilizada para crear nuevos modelos”, dice la empresa.
La carta de los expertos manifiesta su total acuerdo con esa apreciación de la compañía. No obstante, agregan que ese momento es justo ahora. Lidiar con la IA antes de que sea tóxica para la humanidad se convierte en una tarea inmediata, contemplan los especialistas. Por ello, el último escalón antes de la pausa debe ser GPT-4.