رئيس مايكروسوفت يحذر من فخ نماذج الذكاء الاصطناعي المغلقة

في خضم الجدل المتصاعد حول المخاطر المحتملة للذكاء الاصطناعي، يبرز قلق يزداد حضوراً بين المتحمسين لهذه التقنية في وادي السيليكون، ويتمثل في أن مختبرات الذكاء الاصطناعي الكبرى التي تطور نماذج مغلقة المصدر قد تتحول إلى "حصان طروادة".

اسأل عربي

تعمق أكثر في هذا الموضوع

×

يتم إنشاء النصوص والإجابات بواسطة الذكاء الاصطناعي اعتمادًا على تقارير العربي الجديد، لذا يُنصح بالتحقق من المصادر المرفقة. (خدمة تجريبية)

هذا الموقع محمي بواسطة reCAPTCHA وتطبّق عليه سياسة الخصوصية وشروط الخدمة الخاصة بشركة Google.

ويخشى هؤلاء أن الشركات الناشئة والمؤسسات، كلما اعتمدت على نماذج شركات مثل "أوبن إيه آي" و"أنثروبيك"، منحت تلك الشركات وصولاً متزايداً إلى أكثر بياناتها التجارية حساسيةً. وبذلك قد تتمكن الشركات المطورة للنماذج من استغلال هذه المعرفة لمصلحتها، وربما تتحول مستقبلاً إلى منافس مباشر لعملائها. ويشارك هذا القلق عدد من الشخصيات البارزة في قطاع التكنولوجيا، من بينها المستثمر جيسون كالاكانيس، والرئيس التنفيذي لشركة "بالانتير" أليكس كارب.

وانضم الرئيس التنفيذي لشركة مايكروسوفت، ساتيا ناديلا، إلى هذا الطرح في منشور على مدونته الأحد، محذراً من أن مستخدمي الذكاء الاصطناعي أو "المشترين" كما وصفهم، يدفعون الثمن مرتين؛ مرةً مقابل استخدام رموز المعالجة (Tokens)، ومرةً أخرى عندما يسلمون، من دون إدراك، بياناتهم ومعارفهم الخاصة.

وكتب ناديلا: "أنت تدفع ثمن الذكاء مرتين، مرةً بالمال، ومرةً بشيء أكثر قيمةً، وهو المعرفة الخاصة التي تضطر إلى الكشف عنها حتى يصبح هذا الذكاء مفيداً. وكلما أردت أداءً أفضل من النموذج، اضطررت إلى تزويده بقدر أكبر من هذه المعرفة". ورأى أن الخطر الأكبر يتمثل في أن المؤسسات تدرب هذه النماذج فعلياً على تفاصيل أعمالها الدقيقة. وأضاف في منشوره: "تتعلم النماذج من المخرجات الجانبية، ومن التعليمات التي يكتبها المستخدمون، والأدوات التي تستخدمها نماذج الوكلاء الذكية، ولا سيما من التصحيحات التي يجريها البشر عندما يخطئ النموذج. فكل تصحيح يتحول إلى معرفة مؤسسية متراكمة". واعتبر أن هذه المعرفة "من النوع الذي لا يستطيع أي منافس شراءه"، ومع ذلك فإن الشركات تقدمها طوعاً لمطوري النماذج.

وأشار ناديلا إلى أنه إذا كان يُسمح لشركات الذكاء الاصطناعي بجمع بيانات الإنترنت بحرية لتدريب نماذجها، فمن العدل أن تتمكن المؤسسات أيضاً من دراسة هذه النماذج أو "تقطيرها" (Distillation). ويقصد بهذه العملية استخدام مخرجات النموذج لفهم آلية عمله وتدريب نموذج جديد، غالباً ما يكون أقل تكلفةً، اعتماداً على تلك المخرجات.

ولفت إلى أن شركة أنثروبيك كانت قد اتهمت، في شباط/فبراير الماضي، نماذج صينية مفتوحة المصدر بإرسال ملايين الطلبات إلى نموذج "كلود" بهدف تحسين أدائها، كما دعت الحكومة الأميركية إلى تشديد ضوابط التصدير.

ويرى ناديلا أن شركات النماذج لا يمكنها الجمع بين الأمرين؛ الاستفادة من بيانات العالم لتدريب نماذجها، ثم منع الآخرين من الاستفادة من نماذجها بالطريقة نفسها. وكتب في منشوره: "رغم أن الابتكار الكبير الناتج عن تمتع مزودي النماذج بحق الاستخدام العادل لتدريب نماذجهم على البيانات العامة أمر ضروري، فإنني أجد من المفارقات أن يفرض الوضع القائم لاحقاً قيوداً صارمةً على عملية التقطير".

كما أبدى قلقه من احتفاظ بعض مطوري النماذج "بحق التعلم من بيانات استخدام العملاء وتفاعلاتهم". واقترح ناديلا أن تحتفظ الشركات بملكية بياناتها بالكامل، بما في ذلك التعليمات (Prompts)، والملاحظات، وسائر البيانات الناتجة عن الاستخدام، داعياً إلى إنشاء "بيئات تعلم خاصة" على السحابة، إضافةً إلى بناء ما وصفه بـ"طبقات التنسيق" (Orchestration Layers)، التي تتيح التنقل بسهولة بين نماذج الذكاء الاصطناعي المختلفة بدلاً من الارتباط بمزود واحد فقط. وأشار إلى أن أدوات مثل "بوابات الذكاء الاصطناعي" (AI Gateways)، التي تؤدي هذا الدور، أصبحت تحظى بشعبية متزايدة.

ورغم أن ناديلا لم يستخدم مصطلح "مفتوح المصدر" صراحةً عند حديثه عن الحفاظ على ملكية البيانات، فإن هذا المعنى كان حاضراً ضمنياً في منشوره.

تكنولوجيا

التحديثات الحية

الصين تحذّر من وجود "باب خلفي" مدمج في أداة كلود كود

وبالفعل، بدأت شركات كبرى، تمتلك بعض مراكز البيانات الخاصة بها إلى جانب اعتمادها على الحوسبة السحابية، بالتحول إلى نماذج مفتوحة المصدر تعمل داخل بنيتها التحتية المحلية (On-Prem).

وقالت إيديت ليفين، المؤسسة والرئيسة التنفيذية لشركة "سولو.آي أو" (Solo.io)، لموقع "تك كرانش"، إنها تلاحظ هذا التحول بوضوح لدى عملائها، موضحةً أنهم، بعد تجربة النماذج المغلقة، باتوا يتساءلون: "لماذا لا نشغل نموذجاً مفتوح المصدر داخل بنيتنا الخاصة؟ فهو يقدم نحو 90% من قدرات النماذج الكبرى، لكنه أقل تكلفةً بكثير، كما يمنحنا سيطرةً كاملةً".

واختيرت تقنية "سولو.آي أو" العام الماضي لتكون الأساس التقني لمشروع "إيجنت غيتواي" (Agentgateway) التابع لمؤسسة "لينكس"، فيما تضم قائمة عملائها شركات مثل "تي-موبايل" (T-Mobile)، و"إيه دي بي" (ADP)، و"إس إيه بي" (SAP). وترى ليفين أن تشغيل النماذج مفتوحة المصدر داخل الشركات يمثل الموجة المقبلة في اعتماد الذكاء الاصطناعي المؤسسي.

ولا تقتصر هذه القناعة عليها؛ إذ تشهد شركتا "فيرسل" (Vercel)، المتخصصة في استضافة المواقع وأدوات التنقل بين النماذج، و"أوبن راوتر" (OpenRouter)، زيادةً ملحوظةً في استخدام النماذج مفتوحة المصدر. ووفقاً للبيانات، مثلت هذه النماذج 29% من إجمالي حركة الطلبات التي مرت عبر بوابة "فيرسل" خلال الشهر الماضي.

ومع صدور هذه الدعوة العلنية من الرئيس التنفيذي لمايكروسوفت، وهي شركة استثمرت في كل من "أوبن إيه آي" و"أنثروبيك"، إلى توخي الحذر عند الاعتماد على النماذج المغلقة، يبدو أن التوجه نحو النماذج مفتوحة المصدر مرشح للتوسع. واختتم ناديلا منشوره بالقول: "عندما تستهلك الذكاء، فإنك في الوقت نفسه تخلق ذكاءً جديداً، وما تخلقه ينبغي أن يبقى ملكاً لك".