Especialistas vinculados con la empresa de inteligencia artificial Anthropic expresaron su preocupación por el rápido desarrollo de sistemas de IA cada vez más avanzados y los posibles riesgos que podrían representar para la humanidad.
Entre las advertencias destaca la posibilidad de que, durante la próxima década, los avances tecnológicos alcancen un punto en el que los sistemas de inteligencia artificial puedan superar ampliamente las capacidades humanas en distintas áreas.
Jacob Coxon, trabajador de Anthropic, manifestó su preocupación por el ritmo con el que se desarrolla esta tecnología y cuestionó que las empresas continúen avanzando sin que existan suficientes mecanismos para garantizar que los sistemas permanezcan bajo control humano.
La preocupación se centra especialmente en el desarrollo de modelos capaces de razonar, aprender, programar y realizar tareas cada vez más complejas de manera autónoma.
Los especialistas advierten que una IA mucho más poderosa podría generar riesgos difíciles de controlar si sus objetivos no están correctamente alineados con los intereses de las personas.
La advertencia contrasta con las expectativas de algunos empresarios tecnológicos. Elon Musk ha señalado que el crecimiento de la inteligencia artificial podría contribuir a duplicar el Producto Interno Bruto mundial durante los próximos años, debido al aumento de la productividad.
Sin embargo, para quienes trabajan directamente en el desarrollo de estos sistemas, el crecimiento económico potencial no elimina los riesgos. La preocupación principal es que la humanidad pueda desarrollar herramientas cuyas capacidades terminen superando su capacidad para controlarlas.
El debate sobre la seguridad de la IA continúa creciendo a medida que las compañías tecnológicas aceleran la creación de modelos cada vez más sofisticados y autónomos.
