El destino de un proyecto de ley que podría remodelar la creciente industria de la inteligencia artificial de Silicon Valley podría decidirse esta semana, y todos, desde las grandes empresas tecnológicas hasta los miembros del Congreso, compiten para influir en el resultado.
Entre los cientos de proyectos de ley programados para decisiones de financiación por parte del poderoso Comité de Asignaciones de la Asamblea del Estado de California el jueves se encuentra un controvertido plan para regular la industria de la IA. La legislación propuesta, SB 1047, está polarizando a Silicon Valley, e incluso ha incitado a dos legisladores federales que representan el área a dar el paso inusual de intervenir en los negocios de Sacramento.
La “Ley de Innovación Segura para Modelos Fronterizos de Inteligencia Artificial”, escrita por el senador estatal Scott Wiener, demócrata de San Francisco, tiene como objetivo proteger al público de las catástrofes generadas por la IA. Regularía el desarrollo y la implementación de modelos avanzados de IA, específicamente productos de IA a gran escala cuya construcción cueste al menos 100 millones de dólares, mediante la creación de un nuevo organismo regulador llamado Frontier Model Division.
El proyecto de ley, que enfrenta la oposición de importantes empresas tecnológicas como Meta y Google., También propone el establecimiento de un programa de clúster informático financiado con fondos públicos, CalCompute, destinado a desarrollar modelos de IA a gran escala, proporcionar experiencia operativa y apoyo a los usuarios, y fomentar la innovación “equitativa” en IA.
La propuesta ha obtenido apoyo bipartidista en la legislatura estatal y entre los votantes de California, según encuestas públicas recientes. Introducido en febrero pasado, fue aprobado por el Senado estatal en una votación de 32 a 1 en mayo y ahora está abriéndose paso en la Asamblea estatal.
Se espera que los asambleístas decidan el jueves si el proyecto de ley estará entre los seleccionados para discusión y posible financiamiento, o si se pospondrá para más adelante.
Pero destacados miembros del Congreso, Ro Khanna y Zoe Lofgren, demócratas que representan a Silicon Valley, han expresado su preocupación de que el proyecto de ley pueda sofocar la innovación.
Khanna dijo que si bien está de acuerdo con la necesidad de regular la IA, debe hacerse sin dañar a la sólida comunidad de pequeñas empresas y empresas emergentes tecnológicas de California.
“Como representante de Silicon Valley, he estado presionando para que se regule bien la inteligencia artificial para proteger a los trabajadores y abordar riesgos potenciales que incluyen información errónea, falsificaciones profundas y un aumento de la disparidad de riqueza”, dijo Khanna en un comunicado. “Estoy totalmente de acuerdo en que existe la necesidad de legislación y aprecio la intención detrás de la SB 1047, pero me preocupa que el proyecto de ley tal como está redactado actualmente sea ineficaz, castigue a los empresarios individuales y las pequeñas empresas y dañe el espíritu de innovación de California”.
Khanna cree que el enfoque de la regulación de la IA debería ser más quirúrgico.
“Deberíamos empezar por centrarnos en la cuestión más inmediata que tenemos entre manos, que es el etiquetado y la comercialización claros de los productos generados por IA”, afirmó.. “Lo segundo es que necesitamos disposiciones de privacidad mucho más estrictas que puedan dificultar la proliferación y la lucha contra la información errónea. Y en tercer lugar, necesitamos disposiciones antimonopolio serias, para que no estemos en deuda con solo una o dos plataformas de información”.
Mientras tanto, Lofgren, un miembro de alto rango del Comité de Ciencia, Espacio y Tecnología de la Cámara de Representantes, dijo en una carta a Wiener que el proyecto de ley está “muy sesgado” hacia abordar riesgos hipotéticos “al tiempo que ignora en gran medida los riesgos demostrables de la IA, como la desinformación, la discriminación y las prácticas no consensuadas”. deepfakes, impactos ambientales y desplazamiento de fuerza laboral”.
Mientras los legisladores y empresarios de IA aumentan la presión contra el proyecto de ley, Wiener celebró una conferencia de prensa en Sacramento el miércoles por la mañana para discutir los riesgos que plantea la IA en el desarrollo de armas de destrucción masiva, algo que Lofgren sostiene que hay poca evidencia que respalde.
Wiener dijo que respondió a la carta de Lofgren y está dispuesto a hablar con ella sobre posibles enmiendas si el proyecto de ley pasa por el Comité de Asignaciones esta semana.
“Respetuosamente no estoy de acuerdo con la congresista Lofgren”, dijo Wiener. “Se trata de una legislación muy razonable y ligera”.
Dijo que el proyecto de ley se centra en empresas con capacidades de desarrollo a gran escala.
“Este proyecto de ley no impedirá la innovación en IA ni perjudicará a las empresas emergentes de ninguna manera. Y promoverá la innovación segura”, dijo Wiener.
Sin embargo, a Christopher Nguyen, director ejecutivo de la startup de inteligencia artificial Aitomatic, con sede en Palo Alto, y miembro de la alianza de inteligencia artificial con sede en el Área de la Bahía, le preocupa que el proyecto de ley pueda afectar a las empresas emergentes que dependen de modelos de inteligencia artificial en lenguajes grandes, como Llama 3.1 de Meta.
“Dependemos en gran medida de este próspero ecosistema de IA de código abierto”, dijo Nguyen. “Si no podemos mantener accesible el acceso a la tecnología de punta, esto afectará inmediatamente al ecosistema de startups, a las pequeñas empresas e incluso al hombre de la calle, en términos de las tecnologías y servicios a los que tienen acceso. “
Llama 3.1, lanzada por Meta en 2023, es una de varias plataformas de inteligencia artificial de código abierto desarrolladas por gigantes tecnológicos y utilizadas por empresas emergentes y pequeñas, entre otros.
En su respuesta escrita a Lofgren, Wiener enfatizó que el proyecto de ley no dañaría la próspera economía tecnológica de California.
“Predicciones (anteriores similares) han resultado consistentemente falsas”, dijo Wiener, refiriéndose a las predicciones hechas cuando se promulgó la Ley de Privacidad del Consumidor de California de 2018. “California sigue siendo el epicentro mundial de la innovación tecnológica”.
