- Microsoft, uno de los principales patrocinadores de OpenAI, aumentó su inversión en la empresa y colabora en el desarrollo de servicios de chat para su buscador Bing.
- OpenAI presentó su programa de “recompensa de errores” para incentivar a los usuarios a encontrar fallas y problemas de seguridad en sus servicios de IA, como ChatGPT.
- Expertos expresan temores sobre los riesgos de la inteligencia artificial, incluyendo la sustitución de trabajadores y el aumento de la propagación de información falsa, mientras gobiernos buscan más control.
La compañía de investigación de inteligencia artificial Open AI presentó públicamente su programa de “recompensa de errores”. El lanzamiento se produjo mientras los servicios que brinda se enfrentan a exámenes cada vez más rigurosos por parte de las autoridades y el sector tecnológico.
En paralelo, las acciones de Microsoft suben gracias a que es la gran tecnológica que está detrás de la startup a partir de una serie de inversiones millonarias.
OpenAI presentó su nuevo programa de recompensa por errores que paga hasta 20 mil dólares a los usuarios que logren descubrir fallas y problemas de seguridad en los servicios de IA, entre los que se encuentra su bot de chat ChatGPT, el modelo de lenguaje que ha sido objeto de controversia en el último tiempo.
La empresa tecnológica estadounidense presentó a través de su blog el programa que ofrece hasta 6.500 dólares por cada falla que se encuentre. El programa se lanzó en alianza con la plataforma de seguridad colaborativa Bugcrowd.
OpenAI quiere hacer sus servicios más seguros
Según la publicación, los usuarios recibirán premios por encontrar e informar fallas únicas en el chatbot que permitan a la compañía modificar su código, con recompensas en las probabilidades de impacto del problema y definidas por la propia empresa.
Entre las fallas que otorgan recompensas en efectivo están las encontradas en ChatGPT, que está en su fase de revisión de investigación, que son los inicios de sesión, las aplicaciones complementarias, las dificultades de pago y la vulnerabilidad de datos (los usuarios deben mantener en confidencial estos fallos hasta que la compañía les dé la autorización de publicarlos).
En la presentación del programa, la empresa señaló que el objetivo es impulsar la transparencia y colaboración y aseguró que “si bien estamos trabajando de manera ardua para prevenir estos fallos, no podemos conocer previamente todas las maneras en que las personas utilizarán o se aprovecharán de nuestros servicios en el mundo real”.
OpenAI, el gran socio de Microsoft
La empresa con sede en San Francisco, fundada en 2015, presentó su chatbot de inteligencia artificial a fines de 2022, lo que generó un gran interés en el software de esta tecnología.
Microsoft, que actualmente es uno de los máximos patrocinadores de la compañía y que había invertido miles de millones de dólares en OpenAI, confirmó el mes pasado que invertirá otros 10 mil millones más.
Para aprovechar la alianza, Microsoft comenzó a desarrollar un servicio de chat con la ayuda de OpenAI para su buscador Bing.
Aunque el chatbot se desarrolló con el objetivo de escribir ensayos y poesía de nivel elevado, escribir código de computadora y planificar otras actividades cotidianas, muchas veces con precisión casi humana, también se descubrió que da respuestas erróneas a las preguntas y tiene múltiples contradicciones.
Desde que ChatGPT fue lanzado públicamente, los usuarios también han intentado llevar el chatbot al límite, incluso suprimiendo algunas limitaciones, tratando de evitar las restricciones desarrolladas por la compañía para no permitir actividades dañinas, como discursos de odio o brindar detalles acerca de cómo delinquir.
Un estudiante de informática de la Universidad de Washington que creó una plataforma para jailbreaks, publicó en sus redes un hilo donde analizaba distintas fallas del chatbot de OpenAI, lo que provocó que el director ejecutivo de la compañía, Greg Brockman, se planteara lanzar el programa de recompensas.
Temores por los desarrollos de OpenAI
Distintos expertos han hecho públicos sus temores respecto de que los productos de inteligencia artificial pueden incrementar los riesgos de engañar a la gente para que crean que información falsa, que parece legítima, es real.
Se teme que los productos de OpenAi puedan sustituir a trabajadores en múltiples industrias y ayudar a estudiantes a hacer trampa en exámenes.
Al mismo tiempo, los directivos del sector tecnológico, entre los que están Elon Musk y Steve Wozniak, criticaron duramente el avance de la inteligencia artificial y pidieron a las compañías desarrolladoras que detengan su trabajo en la IA para evaluar detenidamente los riesgos. En una carta abierta, los ejecutivos de la industria tecnológica aseguraron que los desarrolladores están en una carrera que se ha descontrolado para desarrollar sistemas más avanzados y potentes.
Aunque Musk firmó la carta para que OpenAI frene por seis meses los desarrollos de GPT, este 20 de abril se conoció que está trabajando desde hace tiempo en nuevos desarrollos AI. Uno de ellos es el llamado TruthGPT. El CEO de Tesla, SpaceX y Twitter dijo que el objetivo es que sea una alternativa “sin falsedades” al ya famoso ChatGPT.
Gobiernos buscan más control para la inteligencia artificial
El programa de recompensas lanzado por la empresa de investigación de IA no es el primero: otras firmas han ofrecido dinero a los usuarios para encontrar fallas en sus servicios, entre los que se encuentran Amazon, AT&T, Bumble, Buzzfeed, Coinbase y Google Chrome.
Las autoridades del gobierno estadounidense también están evaluando posibles regulaciones en los sistemas de inteligencia artificial, como ChatGPT y BardAI de Google, pero todavía no recomendaron ninguna regulación especial.
En abril, el Departamento de Comercio de EEUU presentó una solicitud pública de comentarios para pedir ayuda a los legisladores acerca de cómo lanzar medidas de rendición de cuentas.
Microsoft y sus apuestas en inteligencia artificial (además de OpenAI)
La inteligencia artificial está remodelando las industrias en todo el mundo, y entre las grandes bigtech, Microsoft está (por lejos) al frente de esta revolución tecnológica.
En la última década, con Bill Gates como asesor, Microsoft ha estado realizando inversiones estratégicas en varias empresas centradas en los desarrollos de IA.
Una de las inversiones notables de Microsoft es la ya mundialmente conocida OpenAI, una organización de investigación independiente cuyo objetivo es garantizar que la inteligencia general artificial (AGI) beneficie a toda la humanidad (¿será así?.
En julio de 2020, Microsoft anunció una inversión de mil millones de dólares en OpenAI para respaldar sus esfuerzos en el desarrollo de AGI seguro y beneficioso.
El objetivo de esta inversión es acelerar el desarrollo de tecnologías AGI que estén alineadas con los valores humanos y promover su despliegue responsable. Los gobiernos se preguntan si realmente será así.
Otra inversión importante de Microsoft es en UiPath, una empresa líder en automatización de procesos robóticos.
En abril de 2021, Microsoft se unió a una ronda de financiación que recaudó 750 millones para UiPath, elevando su valoración a la cifra de 35 mil millones.
La plataforma RPA impulsada por IA de UiPath automatiza tareas y procesos repetitivos, lo que permite a las organizaciones optimizar sus operaciones y aumentar la eficiencia.
La inversión de Microsoft en UiPath se alinea con su objetivo de impulsar la transformación digital y empoderar a las organizaciones con tecnologías de inteligencia artificial de vanguardia.
Microsoft sabe que la inteligencia artificial está en pañales
Microsoft también ha realizado inversiones en empresas centradas en la IA de la atención sanitaria. Por ejemplo, invirtió en Nuance Communications, pionera en inteligencia artificial conversacional y reconocimiento de voz basado en la nube.
Esta inversión tenía como objetivo acelerar la adopción de las tecnologías de IA de Nuance en el cuidado de la salud para mejorar la atención al paciente y mejorar los procesos de documentación clínica.
Además, ha realizado importantes inversiones en compañías que trabajan en tecnologías innovadoras en AI y aprendizaje automático. Por ejemplo, puso dinero en el Fondo LP (también parte de OpenAI), cuyo objetivo es proporcionar financiamiento en etapa inicial a nuevas empresas centradas en los avances de la IA.
Esta inversión subraya el compromiso de Microsoft de apoyar la innovación en el espacio de la IA y fomentar el crecimiento de nuevas firmas prometedoras.
En este escenario, se conoció este sábado 22 de abril que Microsoft, Google y Amazon se están asociando con startups y empresas de atención médica para desarrollar, integrar y escalar la tecnología de IA generativa.
Más allá de OpenAI, objetivos de las inversiones de Microsoft
Los objetivos detrás de las inversiones de Microsoft en estas empresas de IA son múltiples. En primer lugar, impulsar la innovación en el campo de la IA apoyando la investigación y el desarrollo de vanguardia.
Estas inversiones permiten a Microsoft colaborar con empresas que están ampliando los límites de la IA y desarrollando tecnologías con el potencial de transformar industrias.
Por otra parte, Microsoft se centra en la integración de tecnologías de IA en sus productos y servicios existentes para ofrecer un mayor valor a sus clientes.
Al asociarse con compañías de IA, Microsoft puede aprovechar su experiencia y tecnologías para desarrollar nuevas soluciones impulsadas por IA que satisfagan las necesidades cambiantes de los clientes.