Descubre cómo el nuevo modo de bloqueo de OpenAI transforma la seguridad de ChatGPT y lo que significa para ti

En un mundo donde la inteligencia artificial se ha integrado en múltiples aspectos de nuestra vida cotidiana y profesional, la seguridad de estos sistemas se ha vuelto una prioridad fundamental. Recientemente, OpenAI ha implementado nuevas características en ChatGPT, denominadas Modo de Cierre y Etiquetas de Riesgo Elevado. Estas innovaciones buscan mejorar la gestión de riesgos de seguridad, especialmente en entornos empresariales y sensibles. Pero, ¿qué significan realmente estas actualizaciones y cómo pueden impactar a los usuarios en México y en el mundo?

Aspectos clave sobre el Modo de Cierre y las etiquetas de riesgo elevado

• Modo de Cierre se lanza para mitigar el riesgo de inyección de comandos al limitar la interacción de la IA con sistemas externos y conexiones en vivo.
• La navegación web en este modo solo utiliza contenido en caché, previniendo solicitudes de red en tiempo real que podrían ser vulnerables a ataques de extracción de datos.
• Este modo está disponible inicialmente para planes empresariales, educativos, de salud y docentes, ofreciendo controles de alta seguridad para flujos de trabajo sensibles.
• Las Etiquetas de Riesgo Elevado aparecen en ChatGPT, ChatGPT Atlas y Codex, proporcionando advertencias consistentes sobre funciones que pueden aumentar la exposición a riesgos de seguridad.
• OpenAI indica que estas etiquetas pueden eliminarse a medida que mejoren las salvaguardias, sugiriendo que la comunicación de riesgos evolucionará junto con los avances en seguridad.

El Modo de Cierre: Un enfoque proactivo en la seguridad

El Modo de Cierre está diseñado para aquellas organizaciones y personas que operan bajo preocupaciones de seguridad elevadas, como ejecutivos y equipos de ciberseguridad. A diferencia de depender únicamente del comportamiento del modelo para resistir ataques, este modo aplica restricciones estrictas a nivel del sistema que limitan cómo ChatGPT interactúa con sistemas externos, disminuyendo así el riesgo de exfiltración de datos a través de inyección de comandos.

Este modo se traduce en la desactivación o restricción de herramientas que podrían ser explotadas mediante ataques de inyección de comandos. Por ejemplo, la navegación web en este modo se limita a contenido en caché, de modo que no se realicen solicitudes de red en vivo que dejen el entorno controlado de OpenAI, disminuyendo la posibilidad de que datos sean transmitidos a actores externos.

El Modo de Cierre es presentado como una opción de seguridad avanzada, no como una configuración predeterminada. OpenAI aclara que la mayoría de los usuarios no necesitarán estas restricciones adicionales, pero las organizaciones pueden habilitarlas para roles específicos con mayores riesgos de exposición.

Esta función se basa en salvaguardias de seguridad ya existentes, que incluyen sandboxing, protecciones contra exfiltración de datos a través de URL, mecanismos de monitoreo y control, así como controles empresariales como acceso basado en roles y registros de auditoría.

Etiquetas de riesgo elevado: Comunicación clara sobre seguridad

Junto con la implementación de un Modo de Cierre más estricto, OpenAI introduce un método más visible para comunicar riesgos a los usuarios. Los sistemas de IA pueden ser más útiles cuando están conectados a aplicaciones y la web, pero estas capacidades relacionadas con la red pueden introducir riesgos que no están completamente abordados por las medidas de seguridad actuales.

Para que los usuarios puedan tomar decisiones informadas, las características que implican acceso externo a la red o permisos extendidos ahora mostrarán una etiqueta de "Riesgo Elevado" en diferentes plataformas de OpenAI. Esto permite a los usuarios evaluar los posibles intercambios de seguridad antes de habilitar capacidades avanzadas.

Por ejemplo, en Codex, los desarrolladores pueden permitir que el asistente acceda a la web para tareas como buscar documentación. La pantalla de configuración relevante incluirá una etiqueta de "Riesgo Elevado", junto con una explicación clara de qué cambios se realizan, qué riesgos pueden surgir y cuándo es apropiado ese acceso. Este enfoque refleja un esfuerzo más amplio para hacer que la orientación de seguridad sea más visible y comprensible para los usuarios.

Preguntas Frecuentes sobre el Modo de Cierre y las etiquetas de riesgo elevado

Q: ¿Qué protege el Modo de Cierre?
A: Busca reducir la exfiltración de datos basada en inyección de comandos al restringir cómo interactúa ChatGPT con sistemas externos, especialmente conexiones en vivo.

Q: ¿Para quién está diseñado el Modo de Cierre?
A: Principalmente para organizaciones o individuos que manejan información sensible y requieren salvaguardias más estrictas. La mayoría de los usuarios no lo necesitarán.

Q: ¿Cambiará el Modo de Cierre cómo funciona ChatGPT para la mayoría de los usuarios?
A: No. OpenAI lo describe como una configuración de seguridad opcional para entornos de alto riesgo, mientras que las experiencias estándar de ChatGPT permanecen sin cambios para la mayoría de los usuarios.

Q: ¿Estas protecciones están disponibles para todos hoy?
A: No. El Modo de Cierre está disponible actualmente para planes empresariales e institucionales, con una disponibilidad más amplia para consumidores planificada para más adelante.

Q: ¿Qué hacen las etiquetas de riesgo elevado?
A: Proporcionan advertencias claras sobre funciones que pueden introducir riesgos de seguridad adicionales, permitiendo a los usuarios tomar decisiones informadas antes de habilitarlas.

Implicaciones para el futuro de la seguridad en IA

Las actualizaciones recientes destacan cómo las plataformas de IA están haciendo que la seguridad sea más visible para los usuarios, reemplazando salvaguardias invisibles con controles más claros que ayudan a las personas a entender y gestionar los riesgos. Esto es especialmente relevante en México, donde el uso de herramientas de IA está en crecimiento y las organizaciones deben tomar decisiones informadas sobre la gestión de datos sensibles.

Con el aumento de la conectividad y el acceso a sistemas externos, las preocupaciones de seguridad se están desplazando desde el comportamiento del modelo hacia el diseño del flujo de trabajo. Las restricciones deterministas y los indicadores de riesgo visibles sugieren que las plataformas de IA están avanzando hacia patrones de gobernanza más maduros.

A medida que la IA continúa integrándose en la infraestructura empresarial y en la vida cotidiana, el verdadero diferenciador no será solo la inteligencia, sino cómo los usuarios pueden ver, entender y controlar los riesgos asociados.

Fuentes

Nota del editor: Este artículo fue creado por Alicia Shapiro, CMO de AiNews.com, con apoyo en la escritura, imágenes y generación de ideas por parte de ChatGPT, un asistente de IA. Sin embargo, la perspectiva final y las decisiones editoriales son exclusivamente de Alicia Shapiro. Agradecimientos especiales a ChatGPT por su asistencia en la investigación y apoyo editorial en la elaboración de este artículo.