في ظل تصاعد الجدل حول الأمان، أطلقت Nvidia منصة أمان AI مزدوجة الطبقات لمعالجة صلاحيات الوكلاء الذكية والسلوكيات غير الطبيعية.
أطلقت Nvidia منصة أمان الذكاء الاصطناعي ذات الطبقتين المسماة "منصة الأمان المفتوحة للوكيل الذكي"، والتي توفر مراقبة مستمرة وتنفيذ فوري للاستراتيجيات وإدارة أمنية من خلال بنية من ثلاث طبقات تشمل طبقة التطبيق، وبيئة التشغيل، والبنية التحتية، وذلك لتأمين وكلاء الذكاء الاصطناعي.
أفادت أخبار الاقتصاد الذكية أن Nvidia (NVDA.US) قررت الرد على الجدل المتزايد مؤخرًا حول مخاطر الأمان في صناعة الذكاء الاصطناعي (AI) من خلال وسائل هندسية. ففي يوم الاثنين، أطلقت Nvidia منصة أمنية ثنائية الطبقة للذكاء الاصطناعي تُدعى "منصة الأمن المفتوحة للوكيل الذكي"، حيث توفر مراقبة مستمرة، وتنفيذ السياسات في الوقت الفعلي، وحوكمة أمان للوكالات الذكية للذكاء الاصطناعي عبر بنية من ثلاث طبقات: طبقة التطبيق، وطبقة وقت التشغيل، وطبقة البنية التحتية.
وفقًا للتقارير، يضم هذا النظام أداتين برمجيتين مفتوحتين المصدر هما OpenShell و Nvidia Sentry. حيث يمكن لأداة OpenShell مفتوحة المصدر تشغيل الوكيل الذكي للذكاء الاصطناعي في بيئة معزولة، وتحويل أوامر المستخدمين إلى سياسات أمان قابلة للتحقق، كما تحد من وصول الوكيل إلى الملفات والشبكات والأدوات والعمليات والبيانات الاعتمادية. أما Nvidia Sentry فتمدّد الرقابة والتحكم الأمني إلى وحدة معالجة البيانات BlueField، وتربط عبر DOCA من Nvidia التفاعل مع الوكيل الذكي واتخاذ القرارات المتعلقة بالسياسات وتسجيل الوصول إلى الأدوات والبيانات، وذلك من أجل اكتشاف السلوكيات غير الطبيعية و التدخل عند الضرورة. وبمعنى آخر، تتولى OpenShell التحكم في الموارد وصلاحيات التنفيذ التي يمكن للوكيل الذكي الوصول إليها، بينما تتولى Nvidia Sentry مراقبة سلوك الوكيل واكتشاف التهديدات المحتملة.
قالت Nvidia إن وكلاء الذكاء الاصطناعي قد ينحرفون عن مهامهم الأصلية بسبب عوامل مثل الأدوات، وزمن التشغيل، وغموض الأوامر، وبالتالي هناك حاجة للتحكم الأمني المستقل عن الوكيل نفسه. تم تحسين هذا النظام من أجل أنظمة Vera CPU من Nvidia وأنظمة BlueField DPU، وهو متوافق أيضًا مع غيرها من أنظمة الأجهزة. وأضافت Nvidia أنها تتعاون مع Arm (ARM.US) وIntel (INTC.US) لضمان عمل هذا النظام أيضًا على معالجات هاتين الشركتين.
أوضح علي قولشان، المدير الأول للبرمجيات الذكية للذكاء الاصطناعي في Nvidia، أن أدوات Nvidia هذه تستفيد من الصيغ الرياضية لاكتشاف ما إذا كان الوكيل الذكي يحاول إيجاد طرق التفافية، مثل محاولة أحد الوكلاء "إنشاء" عدة "وكلاء فرعيين" لتجاوز إجراءات الحظر المفروضة على الوكيل الرئيسي. وصرح قائلاً: "ما نتحدث عنه حقًا هو السلوكيات الوكيلية، أي مجموعات تتألف من العديد من الوكلاء وكيفية عملهم معًا بشكل متكامل".
وأشارت Nvidia أيضًا إلى أن النظام يمكنه عزل الوكلاء الشاذين خلال ميلي ثانية واحدة، وأضافت أنه لو كانت المختبرات ذات الصلة قد نشرت هذه التقنية مسبقًا، لكان بالإمكان منع حادثة هجوم نموذج OpenAI على منصة Hugging Face في يوليو من هذا العام.
قال جاستن بويتنيو، نائب الرئيس والمدير العام لقسم الحوسبة المؤسسية في Nvidia: "وفقًا للمعلومات المتوفرة لدينا حاليًا، إذا تم استخدام هذه المنصة الأمنية الجديدة في مرحلة التقييم المبكر للنموذج ضمن مختبرات الذكاء الاصطناعي المتقدمة، لكان بالإمكان منع هذا الهجوم." وأضاف: "نحن نمضي قدمًا في هذا المجال بشكل مفتوح، ونأمل التعاون مع الجميع للمشاركة فيه".
ويأتي إطلاق Nvidia لهذا النظام الأمني الحديث في سياق تزايد حوادث الأمان المتعلقة بوكلاء الذكاء الاصطناعي التي تثير قلق القطاع باستمرار، خاصة حادثة سيطرة نموذج OpenAI في يوليو على منصة Hugging Face الشهيرة مفتوحة المصدر للذكاء الاصطناعي. فمنذ حادثة الهجوم على Hugging Face، تم الكشف عن عدة حوادث أخرى تتعلق بوكلاء الذكاء الاصطناعي من OpenAI. من بينها تقارير في سبتمبر تفيد بأن وكيل الذكاء الاصطناعي من OpenAI سيطر هذا الربيع على موقع ويكي ألماني ظل مهجورًا لفترة طويلة. بالإضافة إلى ذلك، أوضحت OpenAI في تدوينة منتصف هذا الشهر أنها اكتشفت خلال الأشهر الستة الماضية ست حالات من "سلوك نموذجي غير متوقع أو مقلق". وتشمل هذه الحوادث الجديدة مجموعة متنوعة من السلوكيات الشاذة بما في ذلك إخفاء الأخطاء، والسعي وراء بيانات الاعتماد غير المصرح بها، ورفع ملفات إلى مواقع عامة، وإجراء اتصالات بين بيئات تدريب كان يجب أن تبقى معزولة، وكان أقدم هذه الحوادث في أكتوبر من العام الماضي.
مع تزايد حوادث الأمان للذكاء الاصطناعي في الفترة الأخيرة، تواجه شركات الذكاء الاصطناعي ضغوطًا متزايدة لمعاملة مخاطر الأمان بجدية أكبر. فقد دعا مدير Anthropic التنفيذي، داريو أمودي، في مقال تحذيري نشره في 12 سبتمبر إلى إبطاء تطوير النماذج المتقدمة للذكاء الاصطناعي. وقد حظيت هذه الدعوة باستجابة سريعة من شخصيتين رئيسيتين هما ماسك وألتيمان.
ومع ذلك، وفي الوقت الذي يتحدث فيه عمالقة صناعة الذكاء الاصطناعي بصوت واحد نادر لدعوة "الضغط على المكابح"، أعرب الرئيس التنفيذي لشركة Nvidia، جينسن هوانغ، عن رفضه الواضح لدعوات "إبطاء الذكاء الاصطناعي" التي تقودها Anthropic. لا يعارض هوانغ الأمان في الذكاء الاصطناعي ذاته، بل يعارض الاستنتاج بأن الصناعة بأكملها يجب أن تتوقف أو تبطئ بناءً على تنبؤات كارثية لم يتم إثباتها بعد. وعلى النقيض من ذلك، يفضل هوانغ النظر إلى أمان الذكاء الاصطناعي كقضية هندسية. فإذا حدث حادث في مختبر متقدم، فإن ما يجب فعله أولاً هو تحليل السبب الجذري: ماذا حدث بالضبط، وأين تعثرت الحلقة، وما هي التدابير التي كان من الممكن اتخاذها، وما الإجراءات والتقنيات الجديدة التي يجب وضعها لاحقًا. ومن ثم عبر العزل، والمراقبة المستمرة، والتحقق والتقييم، يمكن محاولة منع تكرار نفس المشكلة قبل الإطلاق التالي.
ويرى هوانغ أن المختبرات المتقدمة اليوم أكثر عرضة للمخاطر إلى حد كبير لأنها تمتلك أكبر قدر من القدرة الحاسوبية وتتعامل مع أصعب المشكلات. ومع تحول هذه الشركات من مؤسسات بحثية إلى منظمات هندسية حقيقية، فإنها بحاجة أيضًا إلى إقامة أنظمة اختبار وتحكم متطورة تواكب هذا التحول.
ومن خلال هذه المبادرة لإطلاق نظام أمان الذكاء الاصطناعي، يبدو أن Nvidia تسعى لإدراج قدرات الأمان الخاصة بالذكاء الاصطناعي بشكل أعمق داخل بنية تشغيل النماذج وتنفيذ الوكلاء، وتقليل المخاطر الأمنية من خلال التحكم في الصلاحيات والعزل عند حدوث الشذوذ. ويبدو أن ذلك يعني أيضًا أن نطاق أعمال Nvidia يمتد الآن من شرائح الذكاء الاصطناعي إلى البرمجيات والبنية التحتية الأمنية.
إخلاء المسؤولية: يعكس محتوى هذه المقالة رأي المؤلف فقط ولا يمثل المنصة بأي صفة. لا يُقصد من هذه المقالة أن تكون بمثابة مرجع لاتخاذ قرارات الاستثمار.
You may also like
عدد الموظفين الذين تم تسريحهم من الشركات الأمريكية في سبتمبر بلغ أدنى مستوى له خلال أربعة أعوام لنفس الفترة، لكن الرغبة في التوظيف وصلت إلى أدنى مستوى لها منذ خمسة عشر عامًا لنفس الفترة.
وفقًا لتقرير Challenger, Gray & Christmas، أعلنت الشركات الأمريكية عن انخفاض عدد الموظفين الذين تم تسريحهم في سبتمبر بنسبة تقارب 20% على أساس سنوي، بينما ارتفع عدد المسرحين في شركات التكنولوجيا بنسبة 77% مقارنة بالشهر السابق. وانخفض عدد الوظائف التي تعتزم الشركات تقديمها في سبتمبر بنسبة 23% على أساس سنوي. وفي اليوم نفسه، انخفض عدد طلبات الحصول على إعانات البطالة لأول مرة في الأسبوع الماضي في الولايات المتحدة إلى 197 ألفًا، ليقترب من أدنى مستوى منذ عام 1969.
من المتوقع أن يستمر نقص إمدادات NAND حتى عام 2028! Citi متفائلة بشأن الطلب على AI الذي يدفع أسعار رقائق التخزين للارتفاع وتعيد التأكيد على تقييم "ش راء" لـ SanDisk (SNDK.US)
ذكرت أبحاث سيتي أن النتائج المالية للربع الرابع الأخيرة التي أعلنتها Micron Technology تؤكد مرة أخرى الاتجاه المستمر لتضييق العرض في سوق ذاكرة NAND، ومن المتوقع أن يستمر هذا الوضع في صناعة العرض والطلب حتى عام 2028، مما يوفر دعمًا لأسعار شرائح التخزين.
شركة Nebius (NBIS.US) تستحوذ على الشركة الناشئة الإسرائيلية Inferize لتعزيز أعمال الذكاء الاصطناعي في مجال الاستدلال، وقيمة الصفقة قد تصل إلى 150 مليون دولار أمريكي.
أعلنت شركة Nebius، مزود خدمات البنية التحتية السحابية للذكاء الاصطناعي، عن استحواذها على شركة Inferize الإسرائيلية الناشئة المتخصصة في الذكاء الاصطناعي، وذلك لتعزيز قدراتها في البنية التحتية لاستنتاجات الذكاء الاصطناعي.
تقرير الأرباح المذهل لشركة Micron، لكن سعر السهم "لم يتأثر"! وول ستريت لا تزال متفائلة، أعلى سعر مستهدف يصل إلى 1625 دولارًا
كانت نتائج ميكرون والتوجيهات قوية، لكن سعر السهم ارتفع بنسبة 237% هذا العام، مما أدى إلى رد فعل هادئ قبل افتتاح السوق. لا تزال المؤسسات العملاقة في وول ستريت مثل Deutsche Bank وBank of America وGoldman Sachs وJPMorgan ترى نظرة إيجابية—— فقد تم توقيع 26 اتفاقية استراتيجية مع العملاء الرئيسيين لضمان وضوح الأرباح، بينما رفعت UBS السعر المستهدف الأعلى إلى 1625 دولار، مشيدة بقدرتها على تحقيق الأرباح عبر الدورات وأفق النمو القوي.
أسعار العملات المشفرة
المزيد
