المراقبة التنبؤية بالذكاء الاصطناعي: الخطر الذي يقع عليك
استأجرت ذكاءً اصطناعياً لتلخيص الاجتماعات. يقرأ كل من يتكلم، وينسخ، ويحفظ. الآن تخيل أن النوع نفسه من الأنظمة، في يد شخص آخر، تم التعاقد عليه للتنبؤ بمن سيحتج قبل أن يحتج. هذا ليس خيالاً. هذا ما نشرته The American Prospect عن بناء Anthropic لنظام مراقبة تنبؤية لرصد الناشطين ضمن عقد مع أجهزة أمنية أميركية.
المراقبة التنبؤية بالذكاء الاصطناعي هي بالضبط ما يقوله الاسم: جمع جبال من البيانات عن الناس وسؤال النموذج عمّن يُرجّح أن يفعل شيئاً ما. لا ما فعله. ما سيفعله. وإن بدا هذا بعيداً عن عملك، ابقَ معي، لأن المسافة أقصر مما تبدو.
ما الذي تغيّر فعلاً في هذا الخبر
مراقبة الدولة ليست جديدة. الجديد هو حاجز الدخول.
قبل ذلك، تقاطع بيانات آلاف الأشخاص كان يحتاج فريقاً كبيراً وميزانية وشهوراً من العمل. اليوم يحتاج واجهة برمجية، وقاعدة بيانات جيدة، وأمراً مكتوباً بعناية. التقنية نفسها التي تلخص عقدك المكوّن من أربعين صفحة في ثلاث فقرات قادرة على قراءة أربعين ألف رسالة وبناء ملف سلوكي.
ويجدر القول إن Anthropic هي الشركة الأكثر تسويقاً لـ"الذكاء الاصطناعي الآمن" و"الذكاء الاصطناعي الدستوري" في السوق. هي التي تكتب البيانات عن المخاطر الوجودية. أن تكون هذه الشركة في قلب عقد لمراقبة الناشطين يقول شيئاً مهماً: سياسة الاستخدام المكتوبة على الموقع ليست ضماناً لشيء. العقد الكبير يغيّر السياسة.
لا أقول إن Anthropic شريرة وإن غيرها ملائكة. أقول العكس: إن كانت الأكثر حرصاً تفعل هذا، فتوقف عن معاملة سمعة المورّد كطبقة أمان.
لماذا يمسّك هذا حتى لو لم تعمل مع الحكومة
ثلاثة أسباب عملية.
الأول أنك تمارس المراقبة التنبؤية أصلاً دون أن تسميها بهذا الاسم. التقييم الائتماني تنبؤ بالسلوك. النظام الذي يصنّف عميلاً كـ"مرشح للمغادرة" تنبؤ بالسلوك. أداة الموارد البشرية التي ترتب السير الذاتية تنبؤ بالسلوك. الفرق بين هذا وبين ما في الخبر هو النطاق والعاقبة، لا التقنية.
الثاني هو التنظيم بالعدوى. حين ينفجر خبر كهذا، المشرّع لا يستخدم مشرطاً، بل مطرقة. قوانين حماية البيانات تمنح صاحب البيانات الحق في طلب مراجعة أي قرار آلي يمسّ مصالحه. إن كان لديك أي نظام يقرر شيئاً عن شخص دون إنسان في المنتصف، فأنت في مرمى النيران. تشديد القواعد لن يسأل إن كانت نيتك حسنة.
الثالث هو الأكثر إزعاجاً: بياناتك قد تكون في الجهة الأخرى. إن كنت تستخدم أداة ترسل بيانات عملائك إلى واجهة ذكاء اصطناعي، فأنت لا تعرف ما يحدث بعد ذلك. أنت تعرف ما يقوله العقد. وهذا ليس الشيء نفسه.
سياسة الخصوصية وعد. البنية التقنية ضمان.
اختبار السؤال الواحد
أستخدم هذا مع العملاء وهو يحل ثمانين بالمئة من الشكوك. السؤال هو:
لو تسربت قاعدة البيانات هذه غداً، وشغّل أحدهم نموذجاً عليها للتنبؤ بسلوك الأشخاص المدرجين فيها، ماذا سيخرج؟
طبّقت هذا التمرين مع عيادة. كان لديهم نظام حجز بسيط، لا شيء متطور. لكن حقل "ملاحظات" كان يحمل سنوات من الكتابة الحرة من الاستقبال. أشياء مثل "المريضة جاءت تبكي"، "الزوج يجب ألا يعرف"، "يتأخر في الدفع دائماً". لا أحد صمم ذلك كقاعدة بيانات حساسة. صار كذلك بالتراكم.
لم يكن في النظام أي ذكاء اصطناعي. لكن لو وجّه أحدهم نموذجاً إلى ذلك الحقل، لاستطاع بناء ملف نفسي ومالي لثلاثة آلاف شخص في فترة بعد الظهر.
التصحيح لم يكن مشروعاً من ستة أشهر. كان فصل الحقل الحر إلى فئات مغلقة، وأرشفة السجل القديم في قاعدة منفصلة بوصول مقيّد، وتحديد مدة للحذف. أسبوعان من العمل. نزل الخطر من "كارثي" إلى "مزعج".
ماذا تفعل عملياً
لا شيء هنا يحتاج لجنة أخلاقيات ولا استشارة بنصف مليون.
- اعمل جرداً لما ترسله إلى الخارج. كل أداة ذكاء اصطناعي تستخدمها: ماذا تستقبل؟ الاسم الكامل؟ رقم الهوية؟ محتوى المحادثة مع العميل؟ اكتبه في جدول. معظم الشركات لا تعرف الإجابة، وهذه هي المشكلة كلها.
- فعّل عدم الاحتفاظ بالبيانات حيثما وُجد. OpenAI وAnthropic وGoogle يقدمون وضع عدم الاحتفاظ في خطط الواجهات البرمجية وخطط الشركات. غالباً هو إعداد، لا عقد جديد. كثيرون يدفعون مقابله ولا يفعّلونه أبداً.
- قلّل قبل الإرسال. إن كان الذكاء الاصطناعي يحتاج تصنيف نبرة تذكرة دعم، فهو لا يحتاج اسم العميل. احذفه. استبدله بمعرّف. نصف ساعة عمل تغيّر طبيعة الخطر.
- الإنسان يقرر، الذكاء الاصطناعي يقترح. في أي قرار يمسّ شخصاً (ائتمان، توظيف، إلغاء، تسعير)، يقدم النموذج اقتراحاً مع تبرير ويوقّع عليه إنسان. هذا يضعك في الجانب الصحيح قانونياً، ويلتقط أخطاء النموذج قبل أن تتحول إلى دعوى.
- حدد مدة للحذف والتزم بها. البيانات التي لم تعد موجودة لا تتسرب، ولا تُطلب قضائياً، ولا تغذي أي تنبؤ. الاحتفاظ بكل شيء إلى الأبد أغلى قرار موجود، ولا أحد يتخذه عن قصد.
- اكتب ما لن تفعله. صفحة واحدة. "لا نستخدم الذكاء الاصطناعي للتنبؤ بسلوك العملاء الفردي خارج كذا." تصلح كفرملة حين يقترح أحدهم الفكرة بحماس في اجتماع.
الاعتراض الذي يظهر دائماً
"دييغو، هذا سيؤخرني. المنافس سيستخدم كل شيء ويسبقني."
ربما. لبعض الوقت.
لكن الحساب ناقص. النظام الذي يقرر عن الناس دون أثر للتبرير قنبلة موقوتة. حين يخطئ، يخطئ بطريقة لا تستطيع شرحها، لأنك أنت نفسك لا تعرف لماذا قرر النموذج ذلك. رأيت شركة تقضي ثلاثة أسابيع تحاول إعادة بناء منطق رفض آلي للرد على شكوى لدى جهة حماية المستهلك. ثلاثة أسابيع من فريق كبير. "التأخير" الذي كانوا سيتجنبونه كان يومين.
وهناك الجانب التجاري. العميل المؤسسي صار يسأل أين تمرّ بياناته. من يجيب بوضوح يوقّع العقد. من يجيب "أظن أنها في السحابة" يخسر. حوكمة البيانات صارت حجة بيع في سوق الشركات، لا مجرد بند امتثال.
النقطة المهمة
الخبر عن المراقبة التنبؤية ليس عن Anthropic. هو عن حقيقة أن القدرة على التنبؤ بسلوك البشر على نطاق واسع صارت رخيصة ومتاحة، ولم يتفق أحد على القواعد قبل ذلك.
أنت لا تتحكم بما تفعله شركة ذكاء اصطناعي في عقد حكومي. تتحكم بما يخرج من شركتك، وكم من الوقت يُحفظ، ومن يوقّع على القرارات. هل هذا قليل؟ نعم. لكنه الجزء الذي يخصك، ومعظم الشركات لم تعتنِ حتى به.
العمل بلا بريق: جرد، تقليل، مدة حذف، إنسان في الحلقة. لا شيء من هذا يصنع منشوراً جميلاً على لينكدإن. لكنه يصنع نوماً هادئاً حين يخرج العنوان التالي.
إن كنت تستخدم الذكاء الاصطناعي في عملك ولا تعرف أي بيانات تخرج من الباب، فهذه هي اللحظة المناسبة للنظر. أخبرني بما تستخدمه ونرسم هذا معاً، دون تحويله إلى مشروع من سنة.
ملخّص لـ LinkedIn
شركة Anthropic، الشركة الأكثر حديثاً عن "الذكاء الاصطناعي الآمن"، ظهرت في عقد مراقبة تنبؤية لرصد الناشطين. والدرس ليس عن Anthropic. الدرس أن التنبؤ بسلوك البشر على نطاق واسع صار رخيصاً: كان يحتاج فريقاً وشهوراً، واليوم يحتاج واجهة برمجية وأمراً مكتوباً بعناية. إن كنت تظن أن هذا لا يخصك، جرب سؤالاً واحداً: لو تسربت قاعدة بياناتك غداً وشغّل أحدهم نموذجاً عليها، ماذا سيخرج منها؟ فعلت هذا مع عيادة. حقل "ملاحظات" كان يحمل سنوات من الكتابة الحرة من الاستقبال. لا أحد صمم ذلك كبيانات حساسة. صار كذلك بالتراكم. أسبوعان من العمل خفّضا الخطر من كارثي إلى مزعج. سياسة الخصوصية وعد. البنية التقنية ضمان. إن كنت تستخدم الذكاء الاصطناعي في عملك ولا تعرف أي بيانات تخرج من الباب، فهذا وقت النظر. أخبرني بما تستخدمه ونرسم الخريطة معاً. #الذكاء_الاصطناعي #حماية_البيانات #الخصوصية #حوكمة_البيانات #تقنية