حققت Manus درجة SOTA (أحدث ما توصلت إليه التقنية) في معيار GAIA ، مما يدل على أن أدائها تفوق على نماذج الذكاء الاصطناعي المفتوحة الكبيرة من نفس المستوى. بمعنى آخر ، يمكنه إكمال المهام المعقدة بشكل مستقل ، مثل المفاوضات التجارية عبر الحدود ، والتي تتضمن تقسيم شروط العقد ، والتنبؤ بالاستراتيجيات ، وتوليد الحلول ، وحتى تنسيق الفرق القانونية والمالية. بالمقارنة مع الأنظمة التقليدية ، تتمتع مانوس بميزة القدرة على تفكيك الكائنات الديناميكية ، والقدرة على التفكير عبر الوسائط ، والقدرة على التعلم لتحسين الذاكرة. يمكنه تقسيم المهام الكبيرة إلى مئات المهام الفرعية القابلة للتنفيذ ، ومعالجة أنواع متعددة من البيانات في نفس الوقت ، واستخدام التعلم المعزز لتحسين كفاءة اتخاذ القرار باستمرار وتقليل معدلات الخطأ.
بالإضافة إلى الإعجاب بالتطور السريع للتكنولوجيا ، أثار مانوس مرة أخرى خلافا في الدائرة حول مسار تطور الذكاء الاصطناعي: هل سيهيمن الذكاء الاصطناعي العام على العالم في المستقبل ، أم أن MAS سيكون مهيمنا بشكل تآزري؟
يبدأ هذا بفلسفة تصميم مانوس ، والتي تنطوي على احتمالين:
واحد هو مسار AGI. من خلال التحسين المستمر لمستوى الذكاء الفردي ، فإنه قريب من القدرة الشاملة على اتخاذ القرار للبشر.
هناك أيضا مسار MAS. بصفتك منسقا فائقا ، قم بقيادة الآلاف من العملاء الرأسيين للعمل معا.
على السطح ، نناقش مسارات مختلفة ، لكننا في الواقع نناقش التناقض الأساسي لتطوير الذكاء الاصطناعي: كيف يجب تحقيق التوازن بين الكفاءة والأمن؟ كلما اقترب الذكاء المتجانس من الذكاء الاصطناعي ، زاد خطر اتخاذ قرارات الصندوق الأسود. في حين أن التعاون متعدد الوكلاء يمكن أن ينشر المخاطر ، إلا أنه يمكن أن يفوت نوافذ صنع القرار الحاسمة بسبب تأخيرات الاتصال.
أدى تطور مانوس إلى تضخيم المخاطر الكامنة في تطوير الذكاء الاصطناعي بشكل مرئي. على سبيل المثال ، الثقوب السوداء لخصوصية البيانات: في السيناريوهات الطبية ، يحتاج مانوس إلى الوصول في الوقت الفعلي إلى البيانات الجينومية للمريض. أثناء المفاوضات المالية ، قد تلمس المعلومات المالية غير المعلنة للشركة. على سبيل المثال ، فخ التحيز الخوارزمي ، في مفاوضات التوظيف ، يقدم مانوس توصيات براتب أقل من المتوسط للمرشحين من عرق معين. عند مراجعة العقود القانونية ، يبلغ معدل سوء تقدير شروط الصناعة الناشئة ما يقرب من النصف. مثال آخر هو ثغرة الهجوم الخصومي ، حيث يزرع المتسللون ترددات صوتية محددة لتمكين مانوس من إساءة تقدير نطاق عرض الخصم أثناء المفاوضات.
علينا أن نواجه نقطة ألم رهيبة لأنظمة الذكاء الاصطناعي: فكلما كان النظام أكثر ذكاء ، كان سطح الهجوم أوسع.
ومع ذلك ، فإن الأمان هو كلمة تم ذكرها كثيرا في web3 ، وهناك مجموعة متنوعة من طرق التشفير المشتقة من إطار المثلث المستحيل V (لا يمكن لشبكات blockchain تحقيق الأمان واللامركزية وقابلية التوسع في نفس الوقت):
الفكرة الأساسية لنموذج أمان الثقة المعدومة :* هي "لا تثق بأحد ، تحقق دائما" ، أي أنه لا ينبغي الوثوق بالأجهزة افتراضيا ، بغض النظر عما إذا كانت على الشبكة الداخلية أم لا. يؤكد هذا النموذج على المصادقة والتفويض الصارمين لكل طلب وصول لضمان أمان النظام.
الهوية اللامركزية (DID): الهوية اللامركزية هي مجموعة من معايير المعرفات التي تمكن من تحديد الكيانات بطريقة يمكن التحقق منها ومستمرة دون الحاجة إلى سجل مركزي. يتيح ذلك نموذجا جديدا للهوية الرقمية اللامركزية ، غالبا ما تتم مقارنته بالهوية ذات السيادة الذاتية ، والتي تعد جزءا أساسيا من Web3.
التشفير المتماثل بالكامل (FHE) هو تقنية تشفير متقدمة تسمح بإجراء حساب تعسفي على البيانات المشفرة دون فك تشفيرها. هذا يعني أنه يمكن لطرف ثالث العمل على النص المشفر ، والنتيجة التي تم الحصول عليها بعد فك التشفير هي نفس نتيجة نفس العملية على النص العادي. هذه الميزة مهمة للسيناريوهات التي تتطلب الحساب دون الكشف عن البيانات الأولية ، مثل الحوسبة السحابية والاستعانة بمصادر خارجية للبيانات.
تمتلك نماذج أمان انعدام الثقة و DIDs عددا معينا من المشاريع في جولات متعددة من الأسواق الصاعدة ، وقد نجحوا أو غرقوا في موجة التشفير ، وكأصغر طريقة تشفير: التشفير المتماثل بالكامل (FHE) هو أيضا قاتل كبير لحل المشكلات الأمنية في عصر الذكاء الاصطناعي. التشفير المتماثل بالكامل (FHE) هو تقنية تسمح بإجراء الحساب على البيانات المشفرة.
كيفية إصلاحه؟
أولا ، على مستوى البيانات. تتم معالجة جميع المعلومات التي يدخلها المستخدم (بما في ذلك القياسات الحيوية ونبرة الصوت) في حالة مشفرة ، وحتى Manus نفسها لا يمكنها فك تشفير البيانات الأصلية. على سبيل المثال ، في حالة التشخيص الطبي ، يتم تحليل البيانات الجينومية للمريض في نص مشفر لتجنب تسرب المعلومات البيولوجية.
المستوى الخوارزمي. يجعل "التدريب على نموذج التشفير" الذي تم تحقيقه من خلال FHE من المستحيل على المطورين إلقاء نظرة خاطفة على مسار صنع القرار في الذكاء الاصطناعي.
على مستوى التآزر. يتم استخدام تشفير العتبة لاتصالات الوكلاء المتعددة، ويمكن اختراق عقدة واحدة دون التسبب في تسرب البيانات العالمية. حتى في تدريبات هجوم سلسلة التوريد والدفاع ، يتسلل المهاجمون إلى العديد من العملاء للحصول على رؤية كاملة للأعمال.
نظرا للقيود التقنية ، قد لا يرتبط أمان web3 ارتباطا مباشرا بمعظم المستخدمين ، ولكنه مرتبط ارتباطا وثيقا بالمصالح غير المباشرة.
تم إطلاق uPort على شبكة Ethereum الرئيسية في عام 2017 ، وكان على الأرجح أول مشروع هوية لامركزية (DID) يتم إصداره على الشبكة الرئيسية.
فيما يتعلق بنموذج أمان Zero Trust ، أصدرت NKN شبكتها الرئيسية في عام 2019.
** Mind Network ** هو أول مشروع FHE يتم إطلاقه على الشبكة الرئيسية ، وقد أخذ زمام المبادرة في التعاون مع ZAMA و Google و DeepSeek وما إلى ذلك.
uPort و NKN هي بالفعل مشاريع لم أسمع بها من قبل ، ويبدو أن المشاريع الأمنية لا يتم الاهتمام بها حقا من قبل المضاربين ، لذلك دعونا ننتظر ونرى ما إذا كانت شبكة Mind يمكن أن تفلت من هذه اللعنة وتصبح رائدة في المجال الأمني.
المستقبل هنا. كلما اقترب الذكاء الاصطناعي من الذكاء البشري ، زادت حاجته إلى دفاعات غير بشرية. لا تكمن قيمة FHE في حل مشاكل اليوم فحسب ، بل أيضا في تمهيد الطريق لعصر الذكاء الاصطناعي القوي. على هذا الطريق الغادر إلى AGI ، FHE ليس خيارا ، ولكنه ضرورة للبقاء على قيد الحياة.
المحتوى هو للمرجعية فقط، وليس دعوة أو عرضًا. لا يتم تقديم أي مشورة استثمارية أو ضريبية أو قانونية. للمزيد من الإفصاحات حول المخاطر، يُرجى الاطلاع على إخلاء المسؤولية.
يجلب مانوس فجر AGI ، كما أن أمن الذكاء الاصطناعي يستحق التفكير فيه
حققت Manus درجة SOTA (أحدث ما توصلت إليه التقنية) في معيار GAIA ، مما يدل على أن أدائها تفوق على نماذج الذكاء الاصطناعي المفتوحة الكبيرة من نفس المستوى. بمعنى آخر ، يمكنه إكمال المهام المعقدة بشكل مستقل ، مثل المفاوضات التجارية عبر الحدود ، والتي تتضمن تقسيم شروط العقد ، والتنبؤ بالاستراتيجيات ، وتوليد الحلول ، وحتى تنسيق الفرق القانونية والمالية. بالمقارنة مع الأنظمة التقليدية ، تتمتع مانوس بميزة القدرة على تفكيك الكائنات الديناميكية ، والقدرة على التفكير عبر الوسائط ، والقدرة على التعلم لتحسين الذاكرة. يمكنه تقسيم المهام الكبيرة إلى مئات المهام الفرعية القابلة للتنفيذ ، ومعالجة أنواع متعددة من البيانات في نفس الوقت ، واستخدام التعلم المعزز لتحسين كفاءة اتخاذ القرار باستمرار وتقليل معدلات الخطأ.
! مانوس يجلب فجر AGI ، الذكاء الاصطناعي الأمن يستحق التفكير أيضا
بالإضافة إلى الإعجاب بالتطور السريع للتكنولوجيا ، أثار مانوس مرة أخرى خلافا في الدائرة حول مسار تطور الذكاء الاصطناعي: هل سيهيمن الذكاء الاصطناعي العام على العالم في المستقبل ، أم أن MAS سيكون مهيمنا بشكل تآزري؟
يبدأ هذا بفلسفة تصميم مانوس ، والتي تنطوي على احتمالين:
واحد هو مسار AGI. من خلال التحسين المستمر لمستوى الذكاء الفردي ، فإنه قريب من القدرة الشاملة على اتخاذ القرار للبشر.
هناك أيضا مسار MAS. بصفتك منسقا فائقا ، قم بقيادة الآلاف من العملاء الرأسيين للعمل معا.
على السطح ، نناقش مسارات مختلفة ، لكننا في الواقع نناقش التناقض الأساسي لتطوير الذكاء الاصطناعي: كيف يجب تحقيق التوازن بين الكفاءة والأمن؟ كلما اقترب الذكاء المتجانس من الذكاء الاصطناعي ، زاد خطر اتخاذ قرارات الصندوق الأسود. في حين أن التعاون متعدد الوكلاء يمكن أن ينشر المخاطر ، إلا أنه يمكن أن يفوت نوافذ صنع القرار الحاسمة بسبب تأخيرات الاتصال.
أدى تطور مانوس إلى تضخيم المخاطر الكامنة في تطوير الذكاء الاصطناعي بشكل مرئي. على سبيل المثال ، الثقوب السوداء لخصوصية البيانات: في السيناريوهات الطبية ، يحتاج مانوس إلى الوصول في الوقت الفعلي إلى البيانات الجينومية للمريض. أثناء المفاوضات المالية ، قد تلمس المعلومات المالية غير المعلنة للشركة. على سبيل المثال ، فخ التحيز الخوارزمي ، في مفاوضات التوظيف ، يقدم مانوس توصيات براتب أقل من المتوسط للمرشحين من عرق معين. عند مراجعة العقود القانونية ، يبلغ معدل سوء تقدير شروط الصناعة الناشئة ما يقرب من النصف. مثال آخر هو ثغرة الهجوم الخصومي ، حيث يزرع المتسللون ترددات صوتية محددة لتمكين مانوس من إساءة تقدير نطاق عرض الخصم أثناء المفاوضات.
علينا أن نواجه نقطة ألم رهيبة لأنظمة الذكاء الاصطناعي: فكلما كان النظام أكثر ذكاء ، كان سطح الهجوم أوسع.
ومع ذلك ، فإن الأمان هو كلمة تم ذكرها كثيرا في web3 ، وهناك مجموعة متنوعة من طرق التشفير المشتقة من إطار المثلث المستحيل V (لا يمكن لشبكات blockchain تحقيق الأمان واللامركزية وقابلية التوسع في نفس الوقت):
الفكرة الأساسية لنموذج أمان الثقة المعدومة :* هي "لا تثق بأحد ، تحقق دائما" ، أي أنه لا ينبغي الوثوق بالأجهزة افتراضيا ، بغض النظر عما إذا كانت على الشبكة الداخلية أم لا. يؤكد هذا النموذج على المصادقة والتفويض الصارمين لكل طلب وصول لضمان أمان النظام. الهوية اللامركزية (DID): الهوية اللامركزية هي مجموعة من معايير المعرفات التي تمكن من تحديد الكيانات بطريقة يمكن التحقق منها ومستمرة دون الحاجة إلى سجل مركزي. يتيح ذلك نموذجا جديدا للهوية الرقمية اللامركزية ، غالبا ما تتم مقارنته بالهوية ذات السيادة الذاتية ، والتي تعد جزءا أساسيا من Web3. التشفير المتماثل بالكامل (FHE) هو تقنية تشفير متقدمة تسمح بإجراء حساب تعسفي على البيانات المشفرة دون فك تشفيرها. هذا يعني أنه يمكن لطرف ثالث العمل على النص المشفر ، والنتيجة التي تم الحصول عليها بعد فك التشفير هي نفس نتيجة نفس العملية على النص العادي. هذه الميزة مهمة للسيناريوهات التي تتطلب الحساب دون الكشف عن البيانات الأولية ، مثل الحوسبة السحابية والاستعانة بمصادر خارجية للبيانات.
تمتلك نماذج أمان انعدام الثقة و DIDs عددا معينا من المشاريع في جولات متعددة من الأسواق الصاعدة ، وقد نجحوا أو غرقوا في موجة التشفير ، وكأصغر طريقة تشفير: التشفير المتماثل بالكامل (FHE) هو أيضا قاتل كبير لحل المشكلات الأمنية في عصر الذكاء الاصطناعي. التشفير المتماثل بالكامل (FHE) هو تقنية تسمح بإجراء الحساب على البيانات المشفرة.
كيفية إصلاحه؟
أولا ، على مستوى البيانات. تتم معالجة جميع المعلومات التي يدخلها المستخدم (بما في ذلك القياسات الحيوية ونبرة الصوت) في حالة مشفرة ، وحتى Manus نفسها لا يمكنها فك تشفير البيانات الأصلية. على سبيل المثال ، في حالة التشخيص الطبي ، يتم تحليل البيانات الجينومية للمريض في نص مشفر لتجنب تسرب المعلومات البيولوجية.
المستوى الخوارزمي. يجعل "التدريب على نموذج التشفير" الذي تم تحقيقه من خلال FHE من المستحيل على المطورين إلقاء نظرة خاطفة على مسار صنع القرار في الذكاء الاصطناعي.
على مستوى التآزر. يتم استخدام تشفير العتبة لاتصالات الوكلاء المتعددة، ويمكن اختراق عقدة واحدة دون التسبب في تسرب البيانات العالمية. حتى في تدريبات هجوم سلسلة التوريد والدفاع ، يتسلل المهاجمون إلى العديد من العملاء للحصول على رؤية كاملة للأعمال.
نظرا للقيود التقنية ، قد لا يرتبط أمان web3 ارتباطا مباشرا بمعظم المستخدمين ، ولكنه مرتبط ارتباطا وثيقا بالمصالح غير المباشرة.
تم إطلاق uPort على شبكة Ethereum الرئيسية في عام 2017 ، وكان على الأرجح أول مشروع هوية لامركزية (DID) يتم إصداره على الشبكة الرئيسية. فيما يتعلق بنموذج أمان Zero Trust ، أصدرت NKN شبكتها الرئيسية في عام 2019. ** Mind Network ** هو أول مشروع FHE يتم إطلاقه على الشبكة الرئيسية ، وقد أخذ زمام المبادرة في التعاون مع ZAMA و Google و DeepSeek وما إلى ذلك.
uPort و NKN هي بالفعل مشاريع لم أسمع بها من قبل ، ويبدو أن المشاريع الأمنية لا يتم الاهتمام بها حقا من قبل المضاربين ، لذلك دعونا ننتظر ونرى ما إذا كانت شبكة Mind يمكن أن تفلت من هذه اللعنة وتصبح رائدة في المجال الأمني.
المستقبل هنا. كلما اقترب الذكاء الاصطناعي من الذكاء البشري ، زادت حاجته إلى دفاعات غير بشرية. لا تكمن قيمة FHE في حل مشاكل اليوم فحسب ، بل أيضا في تمهيد الطريق لعصر الذكاء الاصطناعي القوي. على هذا الطريق الغادر إلى AGI ، FHE ليس خيارا ، ولكنه ضرورة للبقاء على قيد الحياة.