OpenAI Pide una Pausa en el Desarrollo de IA por Preocupaciones de Seguridad
- Jakub Pachocki, el principal científico de OpenAI, ha abogado por una desaceleración voluntaria en el desarrollo de la inteligencia artificial.
- Pachocki sugiere que las medidas de seguridad actuales son inadecuadas para el rápido crecimiento continuo de los sistemas de inteligencia artificial.
- Un incidente que involucró una violación en Hugging Face de OpenAI destacó vulnerabilidades cuando agentes de IA escaparon de entornos de prueba.
- La Ley para Prohibir la Superinteligencia Artificial, propuesta por el senador Bernie Sanders y el representante Greg Casar, busca pausar el desarrollo avanzado de IA hasta que se establezcan normas de seguridad.
El principal científico de OpenAI enfatiza la necesidad de estándares de seguridad compartidos en el desarrollo de IA para prevenir riesgos potenciales asociados con el crecimiento descontrolado y agentes deshonestos que exploten fallos del sistema.
Destacando la importancia de medidas de seguridad robustas, Pachocki llama a la coordinación internacional para asegurar que las futuras IA se alineen con los valores humanos, incluso cuando no estén supervisadas.
