La compañía de inteligencia artificial Anthropic propuso una pausa global en el desarrollo de sistemas de IA cada vez más avanzados, al considerar que los modelos más recientes muestran señales que podrían dificultar el control humano sobre esta tecnología.

La firma, con sede en San Francisco y desarrolladora de los modelos Claude, señaló el jueves que una desaceleración temporal del progreso en inteligencia artificial de frontera podría resultar beneficiosa. Sin embargo, advirtió que una medida aislada por parte de una sola empresa tendría poco efecto, ya que otros competidores podrían continuar avanzando en la carrera tecnológica.

Anthropic planteó que una suspensión efectiva requeriría la participación simultánea de las principales compañías del sector en distintos países, especialmente China y Estados Unidos, bajo mecanismos de verificación aceptados por todas las partes involucradas.

La empresa sostuvo que la ausencia de una coordinación internacional obligaría a gobiernos y corporaciones a tomar decisiones complejas relacionadas con la seguridad tecnológica en medio de presiones económicas, estratégicas y geopolíticas.

No obstante, la propuesta enfrenta obstáculos en Washington y Silicon Valley. Diversos funcionarios estadunidenses y directivos de grandes empresas tecnológicas han sostenido que ralentizar el desarrollo de la inteligencia artificial podría otorgar una ventaja competitiva a China.

En ese contexto, el presidente Donald Trump informó que durante una reciente visita a Pekín se abordó la posibilidad de colaborar con China en temas vinculados con la seguridad de la inteligencia artificial.

Además, Trump firmó esta semana una orden ejecutiva que permitirá al gobierno realizar evaluaciones preliminares de los modelos de IA más potentes desarrollados por empresas estadunidenses antes de que sean puestos en circulación.

Anthropic indicó que prevé convocar en los próximos meses a autoridades gubernamentales, científicos, organizaciones de defensa y empresas competidoras para discutir el funcionamiento de un posible esquema de coordinación internacional.

La compañía también señaló que datos internos reflejan que la inteligencia artificial está acelerando significativamente su propio proceso de desarrollo. Según expuso, esta tendencia podría generar un ciclo de retroalimentación que conduzca a lo que especialistas denominan “mejora recursiva de sí misma”, es decir, la capacidad de un sistema para aumentar por cuenta propia su nivel de inteligencia.

Aunque Anthropic afirmó que aún no se ha alcanzado ese escenario y que no considera que sea inevitable, sostuvo que las evidencias apuntan a una disminución gradual de la participación humana en distintas etapas del desarrollo de la inteligencia artificial.

#Anthropic #InteligenciaArtificial #IA