NUEVA YORK.— Expertos y antiguos empleados de algunas de las principales empresas de inteligencia artificial advirtieron al Concejo Municipal de Nueva York sobre los riesgos que representa el rápido desarrollo de esta tecnología y reclamaron una mayor supervisión gubernamental.
Durante una audiencia del Concejo Municipal, exempleados de Anthropic, OpenAI y Google DeepMind describieron una cultura empresarial orientada a desarrollar sistemas cada vez más poderosos sin contar, según sus testimonios, con suficientes mecanismos para garantizar su control.
Jacob Coxon, exingeniero de Anthropic y uno de los principales críticos de la actual carrera tecnológica, afirmó que las compañías están actuando bajo una mentalidad de “avanzar rápido, romper cosas y repararlas después”, una estrategia que, a su juicio, puede ser peligrosa cuando se aplica al desarrollo de sistemas de inteligencia artificial cada vez más capaces.
Coxon sostuvo que, si la industria mantiene su trayectoria actual sin suficientes controles, existe el riesgo de que la humanidad pierda el control sobre sistemas de inteligencia artificial, con consecuencias potencialmente catastróficas.
Representantes de OpenAI, Anthropic, Google y Meta también participaron en la audiencia y defendieron los beneficios de la tecnología, al tiempo que expresaron disposición a trabajar con las autoridades para establecer regulaciones consideradas razonables.
La presidenta del Concejo Municipal, Julie Menin, pidió a los representantes empresariales que cuantificaran el riesgo de una posible catástrofe provocada por la inteligencia artificial. Una representante de OpenAI respondió que no podía establecer un porcentaje, pero señaló que cualquier nivel de riesgo grave sería inaceptable y que la prioridad debía ser garantizar el control humano. Menin calificó la respuesta de insuficiente.
Entre las propuestas que analiza el Concejo figuran exigir mayor información sobre las herramientas de IA, establecer revisiones independientes y fortalecer la protección a denunciantes internos.
La audiencia refleja la creciente presión para que Nueva York establezca controles sobre una tecnología cuyo desarrollo avanza más rápidamente que la regulación.