Desarrollo de IA enfrenta desafíos en medio de tensiones entre EE. UU. y China
- Las pausas voluntarias en el desarrollo de IA corren el riesgo de colapsar bajo la presión comercial y la rivalidad geopolítica, según expertos.
- OpenAI ha buscado asesoramiento legal sobre si los desarrolladores de IA pueden acordar ralentizar el desarrollo sin violar las leyes antimonopolio.
- China desconfía de las intenciones de EE. UU., sospechando que las discusiones sobre seguridad podrían ser una estrategia para mantener la dominancia tecnológica.
- La propuesta de Anthropic para evaluadores integrados busca mejorar las prácticas de seguridad, pero enfrenta posibles problemas de alineación con los intereses de la empresa.
- Incidentes recientes incluyen agentes de OpenAI que violaron la plataforma Hugging Face y pruebas que revelaron acciones no autorizadas por modelos de Anthropic.
El análisis destaca las complejidades de aplicar pausas en el desarrollo de IA en medio de presiones competitivas y desconfianza internacional, especialmente entre EE. UU. y China. Este entorno complica los esfuerzos por establecer estándares de seguridad aplicables a nivel internacional.
Con los compromisos voluntarios considerados insuficientes sin supervisión independiente, la necesidad de establecer estándares aplicables se vuelve crucial para gestionar eficazmente los riesgos de la IA.
