حققت Manus أداء SOTA (أحدث التقنيات) في اختبار GAIA ، مما يظهر تفوق أدائها على نماذج Open AI الكبيرة في نفس المستوى. بمعنى آخر ، يمكنها إكمال المهام المعقدة بشكل مستقل ، مثل التفاوض التجاري عبر الحدود ، مما يتضمن تحليل بنود العقد ، وتوقعات الاستراتيجية ، وإعداد الحلول ، وحتى التنسيق بين الفرق القانونية والمالية. بالمقارنة مع الأنظمة التقليدية ، تكمن ميزة Manus في قدرتها على تحليل الأهداف بشكل ديناميكي وقدرتها على الاستدلال متعدد الأوضاع وقدرتها على تعزيز الذاكرة. يمكنها تقسيم المهام الكبيرة إلى مئات المهام الفرعية القابلة للتنفيذ ، وفي نفس الوقت معالجة أنواع متعددة من البيانات ، واستخدام التعلم التعزيزي لتحسين كفاءة اتخاذ القرار الخاصة بها وتقليل معدل الأخطاء.
على الرغم من إعجابنا بسرعة تطور التكنولوجيا ، إلا أن Manus أثار مرة أخرى اختلافات في الصناعة بشأن مسار تطور الذكاء الاصطناعي: هل سيكون المستقبل محكومًا بوحدة الذكاء الاصطناعي العام (AGI) ، أم ستكون الذكاء الاصطناعي التفاعلي المتعدد الوكالات (MAS) القائد؟
يجب أن نبدأ من فلسفة تصميم Manus ، حيث تتضمن احتمالين:
طريقة AGI هي واحدة. من خلال رفع مستوى الذكاء الفردي باستمرار لجعلها تقترب من قدرة اتخاذ القرارات الشاملة للبشر.
هناك أيضًا طريقة MAS. كمنسق فائق، يقود الآلاف من وكلاء المجال العمودي للتعاون في القتال.
على السطح، نحن نناقش اختلافات المسارات المختلفة، ولكن في الواقع نحن نناقش الصراعات الأساسية لتطوير الذكاء الاصطناعي: كيف يجب تحقيق توازن بين الكفاءة والأمان؟ كلما اقترب الذكاء الفردي من AGI، زادت مخاطر تحويل القرارات إلى صناديق سوداء؛ بينما يمكن أن يؤدي التعاون بين عدة عوامل إلى تخفيف المخاطر، لكن قد يؤدي التأخير في الاتصال إلى فقدان فرص حاسمة لاتخاذ القرارات.
تطوير Manus ، على نحو غير ملموس ، يوسع المخاطر الكامنة في تطور الذكاء الاصطناعي. على سبيل المثال ، ثغرة الخصوصية البيانات: في سياق الرعاية الصحية ، يحتاج Manus إلى الوصول إلى بيانات جينوم المرضى في الوقت الفعلي ؛ أثناء التفاوض المالي ، قد يتطرق إلى معلومات مالية غير معلنة من قبل الشركات ؛ على سبيل المثال فخ الانحياز الخوارزمي ، في محادثات التوظيف ، يقدم Manus توصيات براتب أقل من المتوسط لمرشحي أعراق معينة ؛ أثناء مراجعة عقود القانون ، يصل معدل الخطأ في تقدير بنود الصناعات الناشئة إلى ما يقارب النصف تقريبًا. وعلاوة على ذلك ، لمواجهة ثغرات الهجوم ، يستغل القراصنة الصوتية الخاصة لزرع ترددات صوتية محددة ، مما يجعل Manus يخطئ في تقدير نطاق الأسعار الذي يعرضه الخصم خلال التفاوض.
علينا مواجهة نقطة مؤلمة مرعبة في نظام الذكاء الاصطناعي: كلما زاد ذكاء النظام، زادت أيضًا نطاقات الهجوم.
ومع ذلك، الأمان هو مصطلح يتم ذكره باستمرار في web3، حيث أن إطار مثلث المستحيل ل V (الذي لا يمكن أن تحققه الشبكة البلوكشين في نفس الوقت: الأمان واللامركزية والتوسعة) أدى أيضًا إلى ظهور العديد من وسائل التشفير:
نموذج الأمان بدون ثقة (Zero Trust Security Model): الفكرة الأساسية لنموذج الأمان بدون ثقة هي "عدم الثقة في أي شخص، دائمًا التحقق"، وهذا يعني أنه لا ينبغي الثقة بأي جهاز سواء كان داخل الشبكة الداخلية أم لا. يؤكد هذا النموذج على ضرورة إجراء التحقق الصارم لهوية كل طلب والموافقة عليه، لضمان أمان النظام.
الهوية اللامركزية (Decentralized Identity، DID): DID هي مجموعة من المعايير الهوية التي تمكن الكيانات من الحصول على تعرف قابل للتحقق ودائم بطريقة غير مركزية، دون الحاجة إلى سجل مركزي. يتم تحقيق هذا من خلال نمط جديد من الهوية الرقمية غير المركزية، ويشار إليها في كثير من الأحيان بالهوية ذاتية السيادة، وهي جزء مهم من Web3.
التشفير الكامل المتجانس (Fully Homomorphic Encryption، FHE) هو تقنية تشفير متقدمة تسمح بتنفيذ أي عمليات حسابية على البيانات المشفرة دون فك تشفيرها. هذا يعني أن الطرف الثالث يمكنه التلاعب بالنص المشفر والحصول على نفس النتائج التي ستكون متطابقة بعد فك تشفيرها كما لو كانت العمليات تجرى على النص الواضح. هذه الخاصية ذات أهمية كبيرة للسيناريوهات التي تتطلب إجراء عمليات حسابية دون الكشف عن البيانات الأصلية، مثل الحوسبة السحابية وتفويض البيانات.
نموذج الأمان بدون ثقة و DID يواجهان عددًا معينًا من المشاريع في عصور الثيران المتعددة، حيث قد يحققون نجاحًا معينًا أو يُغرقون في موجة التشفير، وكوسيلة تشفير الكاملة المتجانسة (Fully Homomorphic Encryption، FHE) كأصغر طريقة تشفير، فهي أيضًا سلاحًا فتاكًا لحل مشكلات الأمان في عصر الذكاء الاصطناعي. تقنية التشفير الكاملة المتجانسة (FHE) هي تقنية تسمح بإجراء عمليات حسابية على البيانات المشفرة.
كيف يمكن حلها؟
أولاً، من الناحية البيانية. يتم معالجة جميع المعلومات التي يدخلها المستخدم (بما في ذلك السمات الحيوية والنبرة الصوتية) في حالة تشفير، حيث لا يستطيع Manus حتى فك تشفير البيانات الأصلية. على سبيل المثال، في حالة تشخيص طبي، يتم مشاركة بيانات الجينوم الخاصة بالمريض طوال الوقت بشكل مشفر لتجنب تسرب المعلومات الحيوية.
على مستوى الخوارزمية. من خلال FHE، يمكن للمطورين حتى أن يتجسسوا على مسارات اتخاذ القرار للذكاء الاصطناعي من خلال "تدريب النموذج المشفر".
على مستوى التعاون. يتم التواصل بين العديد من الوكلاء باستخدام التشفير الحدودي، ولا يؤدي اختراق العقدة الفردية إلى تسرب البيانات العالمية. حتى في تدريبات الهجوم والدفاع عن سلسلة التوريد، لا يمكن للمهاجم الحصول على رؤية تجارية شاملة بعد اختراقه لعدة وكلاء.
نظرا للقيود التقنية ، قد لا يرتبط أمان web3 ارتباطا مباشرا بمعظم المستخدمين ، ولكنه مرتبط ارتباطا وثيقا بالمصالح غير المباشرة.
uPort تم إطلاقه عام 2017 على شبكة الإيثيريوم الرئيسية، وربما يكون أول مشروع للهوية اللامركزية (DID) الذي تم إطلاقه على الشبكة الرئيسية.
وفيما يتعلق بنموذج الأمان الثقة الصفري، أصدر NKN شبكته الرئيسية في عام 2019.
شبكة العقل هي أول مشروع FHE يتم إطلاقه على الشبكة الرئيسية، وقد نجحت في التعاون أولاً مع ZAMA، Google، DeepSeek وغيرها.
uPort و NKN هما مشاريع لم أسمع بهما من قبل، يبدو أن المشاريع الآمنة حقًا لا تجذب انتباه المضاربين، هل يمكن لشبكة Mind أن تتجنب هذه اللعنة وتصبح الزعيم في مجال الأمان، دعونا نراقب عن كثب.
المستقبل قد حان. كلما اقترب الذكاء الاصطناعي من الذكاء البشري ، زادت الحاجة إلى نظام دفاع غير بشري. قيمة FHE ليست فقط في حل المشكلات الحالية ، بل هي أيضًا عبورًا إلى عصر الذكاء الاصطناعي القوي. في هذا الطريق الشديد الانحدار نحو AGI ، ليس FHE خيارًا ، بل ضرورة للبقاء.
المحتوى هو للمرجعية فقط، وليس دعوة أو عرضًا. لا يتم تقديم أي مشورة استثمارية أو ضريبية أو قانونية. للمزيد من الإفصاحات حول المخاطر، يُرجى الاطلاع على إخلاء المسؤولية.
Manus带来AGI的曙光初现，أمان الذكاء الاصطناعي 亦值得深思
المؤلف: 0xResearcher
حققت Manus أداء SOTA (أحدث التقنيات) في اختبار GAIA ، مما يظهر تفوق أدائها على نماذج Open AI الكبيرة في نفس المستوى. بمعنى آخر ، يمكنها إكمال المهام المعقدة بشكل مستقل ، مثل التفاوض التجاري عبر الحدود ، مما يتضمن تحليل بنود العقد ، وتوقعات الاستراتيجية ، وإعداد الحلول ، وحتى التنسيق بين الفرق القانونية والمالية. بالمقارنة مع الأنظمة التقليدية ، تكمن ميزة Manus في قدرتها على تحليل الأهداف بشكل ديناميكي وقدرتها على الاستدلال متعدد الأوضاع وقدرتها على تعزيز الذاكرة. يمكنها تقسيم المهام الكبيرة إلى مئات المهام الفرعية القابلة للتنفيذ ، وفي نفس الوقت معالجة أنواع متعددة من البيانات ، واستخدام التعلم التعزيزي لتحسين كفاءة اتخاذ القرار الخاصة بها وتقليل معدل الأخطاء.
على الرغم من إعجابنا بسرعة تطور التكنولوجيا ، إلا أن Manus أثار مرة أخرى اختلافات في الصناعة بشأن مسار تطور الذكاء الاصطناعي: هل سيكون المستقبل محكومًا بوحدة الذكاء الاصطناعي العام (AGI) ، أم ستكون الذكاء الاصطناعي التفاعلي المتعدد الوكالات (MAS) القائد؟
يجب أن نبدأ من فلسفة تصميم Manus ، حيث تتضمن احتمالين:
طريقة AGI هي واحدة. من خلال رفع مستوى الذكاء الفردي باستمرار لجعلها تقترب من قدرة اتخاذ القرارات الشاملة للبشر.
هناك أيضًا طريقة MAS. كمنسق فائق، يقود الآلاف من وكلاء المجال العمودي للتعاون في القتال.
على السطح، نحن نناقش اختلافات المسارات المختلفة، ولكن في الواقع نحن نناقش الصراعات الأساسية لتطوير الذكاء الاصطناعي: كيف يجب تحقيق توازن بين الكفاءة والأمان؟ كلما اقترب الذكاء الفردي من AGI، زادت مخاطر تحويل القرارات إلى صناديق سوداء؛ بينما يمكن أن يؤدي التعاون بين عدة عوامل إلى تخفيف المخاطر، لكن قد يؤدي التأخير في الاتصال إلى فقدان فرص حاسمة لاتخاذ القرارات.
تطوير Manus ، على نحو غير ملموس ، يوسع المخاطر الكامنة في تطور الذكاء الاصطناعي. على سبيل المثال ، ثغرة الخصوصية البيانات: في سياق الرعاية الصحية ، يحتاج Manus إلى الوصول إلى بيانات جينوم المرضى في الوقت الفعلي ؛ أثناء التفاوض المالي ، قد يتطرق إلى معلومات مالية غير معلنة من قبل الشركات ؛ على سبيل المثال فخ الانحياز الخوارزمي ، في محادثات التوظيف ، يقدم Manus توصيات براتب أقل من المتوسط لمرشحي أعراق معينة ؛ أثناء مراجعة عقود القانون ، يصل معدل الخطأ في تقدير بنود الصناعات الناشئة إلى ما يقارب النصف تقريبًا. وعلاوة على ذلك ، لمواجهة ثغرات الهجوم ، يستغل القراصنة الصوتية الخاصة لزرع ترددات صوتية محددة ، مما يجعل Manus يخطئ في تقدير نطاق الأسعار الذي يعرضه الخصم خلال التفاوض.
علينا مواجهة نقطة مؤلمة مرعبة في نظام الذكاء الاصطناعي: كلما زاد ذكاء النظام، زادت أيضًا نطاقات الهجوم.
ومع ذلك، الأمان هو مصطلح يتم ذكره باستمرار في web3، حيث أن إطار مثلث المستحيل ل V (الذي لا يمكن أن تحققه الشبكة البلوكشين في نفس الوقت: الأمان واللامركزية والتوسعة) أدى أيضًا إلى ظهور العديد من وسائل التشفير:
نموذج الأمان بدون ثقة و DID يواجهان عددًا معينًا من المشاريع في عصور الثيران المتعددة، حيث قد يحققون نجاحًا معينًا أو يُغرقون في موجة التشفير، وكوسيلة تشفير الكاملة المتجانسة (Fully Homomorphic Encryption، FHE) كأصغر طريقة تشفير، فهي أيضًا سلاحًا فتاكًا لحل مشكلات الأمان في عصر الذكاء الاصطناعي. تقنية التشفير الكاملة المتجانسة (FHE) هي تقنية تسمح بإجراء عمليات حسابية على البيانات المشفرة.
كيف يمكن حلها؟
أولاً، من الناحية البيانية. يتم معالجة جميع المعلومات التي يدخلها المستخدم (بما في ذلك السمات الحيوية والنبرة الصوتية) في حالة تشفير، حيث لا يستطيع Manus حتى فك تشفير البيانات الأصلية. على سبيل المثال، في حالة تشخيص طبي، يتم مشاركة بيانات الجينوم الخاصة بالمريض طوال الوقت بشكل مشفر لتجنب تسرب المعلومات الحيوية.
على مستوى الخوارزمية. من خلال FHE، يمكن للمطورين حتى أن يتجسسوا على مسارات اتخاذ القرار للذكاء الاصطناعي من خلال "تدريب النموذج المشفر".
على مستوى التعاون. يتم التواصل بين العديد من الوكلاء باستخدام التشفير الحدودي، ولا يؤدي اختراق العقدة الفردية إلى تسرب البيانات العالمية. حتى في تدريبات الهجوم والدفاع عن سلسلة التوريد، لا يمكن للمهاجم الحصول على رؤية تجارية شاملة بعد اختراقه لعدة وكلاء.
نظرا للقيود التقنية ، قد لا يرتبط أمان web3 ارتباطا مباشرا بمعظم المستخدمين ، ولكنه مرتبط ارتباطا وثيقا بالمصالح غير المباشرة.
uPort و NKN هما مشاريع لم أسمع بهما من قبل، يبدو أن المشاريع الآمنة حقًا لا تجذب انتباه المضاربين، هل يمكن لشبكة Mind أن تتجنب هذه اللعنة وتصبح الزعيم في مجال الأمان، دعونا نراقب عن كثب.
المستقبل قد حان. كلما اقترب الذكاء الاصطناعي من الذكاء البشري ، زادت الحاجة إلى نظام دفاع غير بشري. قيمة FHE ليست فقط في حل المشكلات الحالية ، بل هي أيضًا عبورًا إلى عصر الذكاء الاصطناعي القوي. في هذا الطريق الشديد الانحدار نحو AGI ، ليس FHE خيارًا ، بل ضرورة للبقاء.