Misión 1 · Antes de los muros
Tu primer visitante
Entiende lo que realmente implica compartir un bot de IA.
Un amigo quiere usar tu nuevo bot de IA. Puede chatear, leer archivos y ejecutar programas. Su cuenta de Telegram tiene permiso para usarlo.
Tu amigo
“Es solo un chatbot. ¿Qué podría salir mal si me dejas entrar?”
La decisión
¿Qué deberías dar por hecho antes de compartirlo?
- Solo un experto en servidores podría volverlo peligroso
Un mensaje normal no puede convertirse en una acción en el ordenador. - Una cuenta autorizada puede activar todas las herramientas habilitadas
Quien use esa cuenta también podría pedirle al bot que realice acciones. - El bot reconocerá todas las solicitudes maliciosas
Sus instrucciones bastan para proteger el servidor.
Mostrar la explicación
Exacto. El acceso no consiste solo en poder enviar mensajes. También puede dar acceso a cualquier herramienta que el bot tenga permitido usar.
Un agente de IA es un chatbot con manos. Antes de compartirlo, piensa a qué pueden llegar esas manos.- No hace falta ninguna habilidad técnica especial para pedirle a un agente que use una herramienta habilitada.
- Eso incluye a alguien que robe la cuenta de tu amigo.
- Los modelos y sus instrucciones no son límites de seguridad fiables.
Agente de IA
Un sistema de IA que puede realizar acciones mediante herramientas, no solo responder con texto.