Jack Clark, cofundador de Anthropic, ha pedido que se pueda frenar el avance de la inteligencia artificial (IA), advirtiendo que la tecnología se acerca a un punto en el que podría desarrollarse sin la intervención humana.
«Se necesita la opción de poder quitar el pie del acelerador y poner el del freno», dijo Clark a BBC Newsnight . «Ahora mismo, es como si la industria de la IA tuviera un acelerador, pero no un freno».
Hizo hincapié en que, mediante políticas gubernamentales, es necesario que la ciudadanía mantenga el control de los sistemas de IA, que no harán sino volverse más poderosos y tener un impacto más amplio en la sociedad.
«El mundo necesita reflexionar y, con el tiempo, debemos desarrollar nuevas regulaciones que nos permitan tener confianza en estos sistemas», afirmó.
El popular chatbot Claude de Anthropic ya funciona con un código del que el sistema escribió el 80%. Según Clark, alcanzar el 100% es posible en dos años y «tendría enormes repercusiones».
Clark no explicó cómo se podría crear un «freno» para la investigación y el desarrollo de la IA, pero estableció un paralelismo entre la IA y el auge petrolero y los barones de principios del siglo pasado.
«La respuesta de la sociedad fue idear un marco normativo y regulatorio sensato que infundiera confianza en el petróleo y en los beneficios que este podía aportar al mundo, y que permitiera despreocuparse de las personalidades de quienes dirigían las empresas», dijo Clark. «Y es evidente que a eso hemos llegado».
Sin embargo, esta semana Anthropic acogió con satisfacción una orden ejecutiva sobre IA emitida por el presidente estadounidense Donald Trump, que fue relativamente poco intervencionista en sus directrices hacia las empresas.