مأموریت 1 · پیش از ساختن مرزها
اولین مهمان شما
بفهمید در اختیار دیگران گذاشتن یک ربات هوش مصنوعی واقعاً چه معنایی دارد.
دوستی می‌خواهد از ربات هوش مصنوعی جدید شما استفاده کند. این ربات می‌تواند گفت‌وگو کند، فایل بخواند و برنامه اجرا کند. حساب تلگرام دوستتان اجازهٔ استفاده از آن را دارد.
دوست شما
«این که فقط یک ربات گفت‌وگوست. اگر اجازه بدهی از آن استفاده کنم، چه مشکلی ممکن است پیش بیاید؟»
تصمیم شما
پیش از دادن دسترسی، چه چیزی را باید در نظر بگیرید؟
- فقط یک متخصص سرور می‌تواند با آن خطر ایجاد کند
یک پیام معمولی نمی‌تواند به عملی روی رایانه تبدیل شود. - یک حساب مجاز ممکن است هر ابزار فعالی را به کار بیندازد
کسی که از آن حساب استفاده می‌کند، می‌تواند از ربات بخواهد کارهایی هم انجام دهد. - ربات همهٔ درخواست‌های بد را تشخیص می‌دهد
دستورالعمل‌های ربات برای محافظت از سرور کافی است.
نمایش توضیح
درست است. دسترسی فقط توانایی فرستادن پیام نیست. ممکن است به معنای دسترسی به هر ابزاری هم باشد که ربات اجازهٔ استفاده از آن را دارد.
عامل هوش مصنوعی مثل یک ربات گفت‌وگوست که دست هم دارد. پیش از آنکه آن را در اختیار دیگران بگذارید، ببینید دست‌هایش به چه چیزهایی می‌رسد.- برای اینکه از یک عامل بخواهید ابزاری فعال را به کار بگیرد، مهارت فنی خاصی لازم نیست.
- این موضوع شامل کسی هم می‌شود که حساب دوستتان را می‌دزدد.
- مدل‌ها و دستورالعمل‌هایشان مرز امنیتی قابل‌اتکایی نیستند.
عامل هوش مصنوعی
یک سامانهٔ هوش مصنوعی که می‌تواند با ابزارها کار انجام دهد و فقط پاسخ متنی نمی‌دهد.