آمِن أمام العالم
النموذج الأوّلي الذي يعمل من أجلك أنت ليس كالوكيل الآمن للجميع. الإطلاق يعني وضع حواجز حماية — وقايات من سوء الاستخدام ومن الأخطاء غير المقصودة معًا.
ثلاثة مخاطر حقيقية
هذه مخاطر عامّة تنطبق على أي وكيل يقرأ مُدخَلات خارجية أو ينفّذ إجراءات.
- حقن التعليمات — مُدخَل خبيث يختطف تعليمات الوكيل ويجعله يفعل ما لم تقصده أبدًا.
- تسريب البيانات — يُسرِّب الوكيل بياناتٍ خاصّة اؤتُمِن عليها.
- الإجراءات الضارّة — يفعل شيئًا مُدمِّرًا لا يمكن التراجع عنه.
وضع حواجز الحماية
تحقّق ممّا يدخل وممّا يخرج، وقيِّد ما يُسمَح لأدواتك بفعله.
أقلّ صلاحية والمراجعة
افترِض أن شيئًا ما سيسوء، وتأكّد أنه لا يمكن أن يمضي بعيدًا.
- أقلّ صلاحية — امنح الوكيل الوصول الذي يحتاجه فعلًا فقط، لا أكثر.
- إنسان في الحلقة — أبقِ موافقة شخصٍ ما أمام أي إجراء محفوف بالمخاطر.
- التسجيل — سجّل ما يفعله الوكيل، لتتمكّن من رؤية ما حدث (يرتبط هذا بقابلية المراقبة في الوحدة 9).
تدوين الحوكمة
الحوكمة هي أن تقرّر، بوضوح، من المسؤول، وأيّ البيانات مسموح بها، وما الذي يجب ألّا يفعله الوكيل أبدًا.
طبّقها
كيف تُطبّق: لأداتك الخاصّة، سمِّ مُدخَلًا عدائيًا واحدًا قد تواجهه وحاجزًا واحدًا يوقفه — بالإضافة إلى الإجراء الوحيد الذي يجب أن يستأذن فيه إنسانًا أولًا دائمًا.
- متتبّع مهامّ الذكاء الاصطناعي الأسبوعي — الرسالة مُدخَل غير موثوق؛ لا تدعها تُطلق إجراءات مُدمِّرة أبدًا؛ تحقّق قبل التخزين، وأبقِ الأسرار بعيدة المنال.
- موقع العلامة الشخصية — الحاجز يتعلّق بالحقائق: لا تنشر أبدًا ادّعاءً غير مستند إلى مصدر حقيقي.
ما الذي تعلّمته
حقن التعليمات وتسريب البيانات والإجراءات الضارّة مخاطر حقيقية. احتمِ منها بالتحقّق من المُدخَلات والمُخرَجات، ومنح الوكيل أقلّ صلاحية، وإبقاء إنسان في الحلقة، وتدوين قواعد الحوكمة قبل أن تُطلِق.