El gobernador Gavin Newsom veta un proyecto de ley innovador sobre seguridad de la IA, citando preocupaciones sobre regulaciones excesivamente estrictas tanto para los sistemas de IA de alto riesgo como para los básicos, al tiempo que señala los esfuerzos en curso para establecer barreras de protección.
En una decisión que ha provocado un intenso debate en Silicon Valley y más allá, el gobernador de California, Gavin Newsom, vetó la SB 1047, una ley pionera destinada a regular la inteligencia artificial (IA). El proyecto de ley, conocido como el Ley de Innovación Segura y Protegida para Modelos de Inteligencia Artificial de Frontera, habría requerido que las empresas que invirtieran más de 100 millones de dólares en el desarrollo de IA implementaran estrictas medidas de seguridad, incluido un “interruptor de apagado” para desactivar modelos potencialmente peligrosos.
La legislación, considerada ampliamente como el intento más ambicioso de regular la IA en Estados Unidos, fue diseñada para prevenir los peores escenarios, como los eventos con víctimas masivas vinculados a la IA no autorizada. Había obtenido el apoyo de importantes figuras tecnológicas y de las élites de Hollywood, incluido el multimillonario Elon Musk y los pioneros de la IA Yoshua Bengio y Geoffrey Hinton. A pesar de su respaldo por parte de destacados defensores, el proyecto de ley se encontró con una resistencia considerable por parte de gigantes tecnológicos como OpenAI, Meta y Google.
La justificación de Newsom: equilibrar la innovación y la seguridad
En su mensaje de veto, Newsom destacó la naturaleza bienintencionada del proyecto de ley, pero criticó su falta de matices. Señaló que la legislación no diferenciaba entre los sistemas de IA en función de sus niveles de riesgo o aplicaciones. Según Newsom, el proyecto de ley imponía requisitos innecesariamente estrictos a todos los sistemas de IA, incluidos los básicos, basándose únicamente en el tamaño de la empresa que los implementaba.
“No creo que este sea el mejor enfoque para proteger al público de las amenazas reales que plantea la tecnología”, afirmó Newsom. Explicó que, si bien está de acuerdo con la necesidad de una regulación, la propuesta actual podría perjudicar la posición de California como líder tecnológico mundial.
En su intervención a principios de este mes en la conferencia anual Dreamforce de Salesforce, Newsom subrayó la importancia de la IA para el futuro económico de California. “Este es un espacio en el que dominamos y quiero mantener nuestro dominio”, dijo, destacando el doble desafío del estado de liderar la innovación y al mismo tiempo gestionar los riesgos asociados.
La resistencia de Silicon Valley y otros lugares
A pesar del amplio apoyo en la legislatura de California, la SB 1047 encontró resistencia no solo de las empresas tecnológicas, sino también de un grupo de ocho demócratas de la Cámara de Representantes de California, entre ellos Nancy Pelosi, aliada de Newsom desde hace mucho tiempo. Sus preocupaciones coincidían con las del gobernador, sugiriendo que el proyecto de ley podría sofocar la innovación al aplicar estándares estrictos en todos los ámbitos, independientemente de los posibles riesgos o beneficios de un sistema de IA.
Sin embargo, los partidarios del proyecto de ley sostienen que es un paso necesario para mitigar los peligros inminentes del desarrollo descontrolado de la IA. Más de 100 empleados de gigantes de la IA como Google, Meta y OpenAI habían firmado una carta instando a Newsom a firmar la legislación, advirtiendo que los modelos de IA más avanzados "pronto podrían plantear graves riesgos".
Las personalidades de Hollywood también se sumaron al debate: más de 125 actores y directores pidieron la aprobación del proyecto de ley. Expresaron su confianza en el potencial de la IA para el bien, al tiempo que advirtieron que un desarrollo sin control podría tener consecuencias devastadoras.
Implicaciones federales y globales de la regulación de la IA
El senador californiano Scott Wiener, autor del proyecto de ley, expresó su decepción por el veto, pero sigue comprometido a impulsar salvaguardas más sólidas para la IA. También ha defendido la legislación federal sobre IA, aunque expresó dudas sobre la capacidad del Congreso para actuar con rapidez en materia de políticas relacionadas con la tecnología.
Mientras tanto, a nivel internacional, el presidente estadounidense, Joe Biden, abordó la importancia de la regulación de la IA en su discurso ante la Asamblea General de las Naciones Unidas, llamando a los líderes mundiales a trabajar juntos para desarrollar estándares globales que prioricen la seguridad humana.
“Esto es solo la punta del iceberg de lo que debemos hacer para gestionar esta nueva tecnología”, dijo Biden. Sus comentarios reflejaron la creciente preocupación mundial sobre el potencial de la IA para transformar las sociedades de maneras imprevistas.
¿Un paso hacia una política integral de IA?
Si bien el fracaso de la SB 1047 marca un momento significativo en la conversación en curso sobre la regulación de la IA, puede que no sea la última palabra sobre el asunto. El gobernador Newsom ha indicado su intención de trabajar con expertos en IA, incluido el reconocido investigador Fei-Fei Li, para desarrollar un enfoque más refinado para proteger al público de los riesgos de la IA. Además, ha firmado otros 17 proyectos de ley relacionados con la IA, que abordan preocupaciones más inmediatas como el contenido electoral ultrafalso y el uso indebido de imágenes digitales en el entretenimiento.
El veto a la SB 1047 representa un delicado equilibrio para California, un estado que está a la vanguardia de la innovación tecnológica y cada vez es más consciente de los posibles peligros que plantea la IA. A medida que continúa el debate, el papel de California en la configuración del futuro de la regulación de la IA sin duda seguirá siendo crucial.
Por Orlando J. Gutiérrez