La Casa Blanca revela iniciativas para reducir los riesgos de la IA - كورة برس

La Casa Blanca revela iniciativas para reducir los riesgos de la IA

جوجل بلس

La Casa Blanca anunció el jueves sus primeras nuevas iniciativas destinadas a controlar los riesgos de la inteligencia artificial, luego de que el auge de los chatbots basados ​​en inteligencia artificial provocara crecientes llamados para regular la tecnología.

La Fundación Nacional de Ciencias planea gastar $140 millones en nuevos centros de investigación dedicados a la IA, dijeron funcionarios de la Casa Blanca. La administración también prometió publicar una guía preliminar para que las agencias gubernamentales garanticen que el uso de la IA protege “los derechos y la seguridad del pueblo estadounidense”, y agregó que varias compañías de IA acordaron enviar sus productos para inspección en agosto en una conferencia de seguridad cibernética.

Los anuncios se produjeron horas antes de que la vicepresidenta Kamala Harris y otros funcionarios de la administración se reunieran con los directores ejecutivos de Google, Microsoft, OpenAI, fabricante del popular chatbot ChatGPT, y Anthropic, una startup de IA, para hablar sobre la tecnología. Un alto funcionario de la administración dijo el miércoles que la Casa Blanca planea convencer a las empresas de que tienen la responsabilidad de abordar los riesgos de los nuevos desarrollos de IA. La Casa Blanca está bajo una presión cada vez mayor para controlar la IA, que es capaz de producir prosa compleja e imágenes realistas. La explosión de interés en la tecnología comenzó el año pasado cuando OpenAI lanzó ChatGPT al público, y la gente inmediatamente comenzó a usarlo para buscar información, hacer tareas escolares y ayudar en el trabajo. Desde entonces, algunas de las empresas tecnológicas más grandes se han apresurado a incorporar chatbots en sus productos y aceleraron la investigación de IA, mientras que los capitalistas de riesgo invirtieron dinero en nuevas empresas de IA.

Pero el auge de la IA también ha planteado interrogantes sobre cómo la tecnología transformará las economías, sacudirá la geopolítica e impulsará la actividad delictiva. A los críticos les preocupa que muchos sistemas de IA sean opacos pero extremadamente poderosos, con el potencial de tomar decisiones discriminatorias, reemplazar a los humanos en sus trabajos, difundir información errónea y tal vez incluso infringir la ley.

El presidente Biden dijo recientemente que “aún está por verse” si la IA es peligrosa, y algunos de sus altos funcionarios han prometido intervenir si la tecnología se usa de manera dañina.

Sam Altman, de pie, el director ejecutivo de OpenAI, se reunirá con la vicepresidenta Kamala Harris el jueves. crédito…Jim Wilson/New York Times

Las portavoces de Google y Microsoft se negaron a comentar antes de la reunión en la Casa Blanca. Un portavoz de Anthropic confirmó que la empresa estará presente. Una portavoz de OpenAI no respondió a una solicitud de comentarios.

Los anuncios se basan en esfuerzos previos de la administración para criticar a la IA, protegerlos de resultados discriminatorios y explicar por qué se tomaron ciertas medidas. En enero, el Departamento de Comercio también publicó un marco para reducir el riesgo en el desarrollo de IA, que se ha estado trabajando durante años.

La introducción de chatbots como ChatGPT y Bard de Google ha ejercido una enorme presión sobre los gobiernos para que actúen. La Unión Europea, que ya estaba negociando regulaciones de IA, enfrentó nuevas demandas para regular una gama más amplia de IA, en lugar de solo sistemas vistos como inherentemente de alto riesgo.

En los Estados Unidos, los miembros del Congreso, incluido el senador Chuck Schumer de Nueva York, el líder de la mayoría, se han movido para redactar o proponer una legislación para regular la IA. aplicación de la ley en Washington.

Un grupo de agencias gubernamentales se comprometió en abril a “supervisar el desarrollo y uso de sistemas automatizados y fomentar la innovación responsable”, al tiempo que castiga las violaciones de la ley cometidas con la tecnología.

En un ensayo invitado en The New York Times el miércoles, Lina Khan, presidenta de la Comisión Federal de Comercio, dijo que la nación se encuentra en un “punto de decisión fundamental” con AI. Comparó los desarrollos recientes en la tecnología con el nacimiento de gigantes tecnológicos como Google y Facebook, y advirtió que sin una regulación adecuada, la tecnología podría fortalecer el poder de las empresas tecnológicas más grandes y dar a los estafadores una herramienta poderosa.

“A medida que el uso de la IA se vuelve más generalizado, los funcionarios públicos tienen la responsabilidad de garantizar que esta historia aprendida con tanto esfuerzo no se repita”, dijo.