إعادة توجيه العنوان الأصلي: d/acc: بعد عام واحد

منذ حوالي عام، كتبت مقال عن التفاؤل التكنولوجي، وصف حماسي العام للتكنولوجيا والفوائد الهائلة التي يمكن أن تجلبها، فضلاً عن حذري من بعض المخاوف الخاصة، التي تتركز بشكل كبير حول الذكاء الاصطناعي الفائق، والمخاطر التي قد يتسبب فيها إما في الهلاك أو في تقوية الإنسان بشكل لا رجعة فيه، إذا تم بناء التكنولوجيا بالطرق الخاطئة. كانت إحدى الأفكار الأساسية في مشاركتي فلسفة: التسارع الدفاعي المتميز والديمقراطي المتمايز. تسريع التكنولوجيا، ولكن التركيز بشكل متميز على التقنيات التي تحسن قدرتنا على الدفاع، بدلاً من قدرتنا على إلحاق الضرر، والتركيز على التقنيات التي توزع السلطة بدلاً من تركيزها في يد النخبة الفردية التي تقرر ما هو صحيح وما هو خاطئ وما هو جيد وما هو شرير نيابة عن الجميع. الدفاع مثل الديمقراطية سويسراوبشكل تاريخي شبه فوضويZomia، وليس مثل أرباب وقلاع النظام الفيودالي في العصور الوسطى.

في السنة التي مرت منذ ذلك الحين، نضجت الفلسفة والأفكار بشكل كبير. تحدثت عن الأفكار على 80,000 ساعة، ورأيت العديد من الاستجابات، إيجابية بشكل كبير وبعضها نقدي. العمل نفسه مستمر ويؤتي ثماره: نحن نحقق تقدمًا.رؤية التقدمفي قابل للتحققاللقاحات مفتوحة المصدر، اعترافا متزايدا بقيمة الهواء الداخلي الصحي ، ملاحظات المجتمع تستمر في التألق ، عام اختراق ل أسواق التنبؤ كأداة معلوماتية، ZK-SNARKs فيهوية حكومية و وسائل التواصل الاجتماعي(وتأمينEthereumمحافظمن خلالتجاوز الحساب), أدوات الصور المفتوحة المصدرمع التطبيقات في الطب و BCI، وأكثر. في الخريف، كان لدينا أول حدث d/acc signficant: يوم اكتشاف d/acc (d/aDDy) في Devcon، والتي تضمنت يوما كاملا من المتحدثين من جميع ركائز D/ACC (الحيوية، والمادية، والسيبرانية، والدفاع عن المعلومات، بالإضافة إلى التكنولوجيا العصبية). يدرك الأشخاص الذين يعملون على هذه التقنيات لسنوات بشكل متزايد عمل بعضهم البعض ، ويدرك الأشخاص في الخارج بشكل متزايد القصة الأكبر: نفس أنواع القيم التي حفزت Ethereum و crypto يمكن تطبيقها على العالم بأسره.

جدول المحتويات

• ما هو داك وما ليس
• البعد الثالث: البقاء والازدهار
• السؤال الصعب: سلامة الذكاء الاصطناعي، الجداول الزمنية القصيرة والتنظيم
• دور العملة المشفرة في د/acc
• تمويل الحساب الرقمي والسلع العامة
• المستقبل

ما هو وما ليس d/acc

إنه عام 2042. أنت ترى تقارير في وسائل الإعلام حول وباء جديد يحتمل في مدينتك. أنت معتاد على هذه: يصبح الناس متحمسين لكل تحول في أمراض الحيوان، ومعظمها لا يؤدي إلى شيء. وتم اكتشاف الوبالات الإمكانية السابقتين في وقت مبكر جداً من خلالرصد مياه الصرف الصحيوتحليل مفتوح المصدر لوسائل التواصل الاجتماعي، وتوقفت تمامًا في مساراتها. ولكن هذه المرة، تظهر أسواق التنبؤ احتمالية بلوغ 60% على الأقل 10000 حالة، لذا أنت قلق أكثر.

تم تحديد تسلسل الفيروس أمس. تحديثات البرامج لجيبكاختبار الهواء للسماح لها باكتشاف الفيروس الجديد (من نفس واحد ، أو من 15 دقيقة من التعرض للهواء الداخلي في الغرفة) متوفرة بالفعل. يجب أن تكون التعليمات والتعليمات البرمجية مفتوحة المصدر لتوليد لقاح باستخدام المعدات التي يمكن العثور عليها في أي منشأة طبية حديثة في جميع أنحاء العالم متاحة في غضون أسابيع. معظم الناس لم يتخذوا أي إجراء على الإطلاق ، ويعتمدون في الغالب على اعتماد واسع النطاق لتصفية الهواء والتهوية لحمايتهم. لديك حالة مناعية لذا فأنت أكثر حذرا: الذكاء الاصطناعي المساعد الشخصي مفتوح المصدر الذي يعمل محليا ، والذي يتعامل مع مهام الملاحة الأخرى والتوصية بالمطاعم والأحداث ، يأخذ في الاعتبار أيضا اختبار الهواء في الوقت الفعلي وبيانات CO2 للتوصية فقط بالأماكن الأكثر أمانا. يتم توفير البيانات من قبل عدة آلاف من المشاركين والأجهزة التي تستخدم zk-SNARKsوالخصوصية التفاضليةللحد من المخاطر التي يمكن أن تتسرب فيها البيانات أو يمكن استغلالها لأي غرض آخر (إذا كنت ترغب في المساهمة في تلك المجموعات من البيانات، هناك مساعدين شخصيين آخرين يتحققون من الأدلة الرسمية التي تثبت أن هذه الأدوات التشفيرية تعمل فعليا).

بعد شهرين، اختفت الجائحة: يبدو أن 60٪ من الأشخاص الذين يتبعون البروتوكول الأساسي لوضع قناع إذا كان جهاز اختبار الهواء يصدر إشارة صوتية ويظهر وجود الفيروس، والبقاء في المنزل إذا كانت النتيجة إيجابية بشكل شخصي، كان كافياً لدفع معدل الانتقال، الذي تم تقليله بالفعل بشكل كبير بسبب الترشيح الهوائي الثقيل، إلى أقل من 1. مرض يظهر المحاكاة أنه قد يكون أسوأ بخمس مرات من كوفيد قبل عشرين عامًا يتبين أنه ليس مشكلة اليوم.

يوم ديفكون د / حساب

واحدة من أكثر النقاط الإيجابية المستفادة من حدث d/acc في ديفكون كانت مدى نجاح مظلة d/acc في جمع الناس من مجالات مختلفة للغاية، وجعلهم يهتمون في الواقع بعمل بعضهم البعض.

إنشاء الأحداث مع 'التنوع' سهل، لكن جعل أشخاص مختلفين من خلفيات واهتمامات مختلفة يرتبطون فعلا ببعضهم البعض أمر صعب. لا تزال لدي ذكريات بأنني كنت مضطرًا لمشاهدة الأوبرا الطويلة في المدرسة المتوسطة والثانوية، والتي وجدتها شخصيًا مملة. كنت أعرف أنني 'مفترض أن' أقدرها، لأنه إذا لم أفعل ذلك فسأكون شخصًا غير مثقف في علوم الكمبيوتر، لكنني لم أتواصل مع المحتوى على مستوى أكثر صدقًا. يوم الحساب الذي لم يكن كذلك على الإطلاق: شعرت أن الناس فعلًا يستمتعون بتعلم أنواع عمل مختلفة جدًا في مجالات مختلفة.

إذا أردنا إنشاء بديل أكثر إشراقًا للهيمنة والتباطؤ والمصير المحتوم، فإننا بحاجة إلى هذا النوع من بناء التحالف الواسع. يبدو أن d/acc تنجح فعليًا في ذلك، وهذا يظهر بمفرده قيمة الفكرة.

الفكرة الأساسية ل d/acc بسيطة: تسارع دفاعي متميز وديمقراطي مركزي. قم ببناء التقنيات التي تنقل التوازن بين الهجوم والدفاع نحو الدفاع، وافعل ذلك بطريقة لا تعتمد على تسليم المزيد من السلطة إلى السلطات المركزية. هناك رابط أساسي بين هاتين الجانبين: أي نوع من الهياكل السياسية الليبرالية الديمقراطية المركزية تزدهر بشكل أفضل عندما يكون الدفاع سهلاً، وتعاني أكثر تحديًا عندما يكون الدفاع صعبًا - في تلك الحالات، النتيجة الأكثر احتمالًا بكثير هي فترة من الحرب من الجميع ضد الجميع، وفي نهاية المطاف توازن الحكم من قبل الأقوى.

تمتد المبدأ الأساسي لـ d/acc عبر العديد من المجالات:

الرسم البياني من تفاؤلي التقني, العام الماضي

طريقة واحدة لفهم أهمية محاولة أن تكون مفcentralized، defensiفة وتسارعية في نفس الوقت، هي مقارنتها بالفلسفة التي تحصل عليها عندما تتخلى عن كل واحدة من الثلاثة.

• تسريع متموزع، ولكن لا تهتم بجزء "الدفاع التفاضلي". بشكل أساسي، كنe/acc, ولكن مركزي. هناك الكثير من الأشخاص الذين يتبعون هذا النهج، بعضالذين يصفون أنفسهم بـ d/acc ولكن يصفون تركيزهم بشكل مفيد على "الهجوم"، ولكن هناك الكثير من الآخرين المتحمسين لـ "الذكاء الاصطناعي اللامركزي" ومواضيع مماثلة بطريقة أكثر اعتدالًا، ولكن في رأيي يولون اهتمامًا غير كافٍ بالجانب "الدفاعي".

في رأيي، قد يتجنب هذا النهج مخاطر الحكم الإنساني العالمي من قبل القبيلة المحددة التي تشعر بالقلق منها، ولكنه لا يملك إجابة على المشكلة الهيكلية الأساسية: في بيئة تفضل الهجوم، هناك خطر مستمر ومستمر إما بالكارثة أو بشخص يجعل نفسه واقية وينشئ نفسه بشكل دائم في القمة. في حالة الذكاء الاصطناعي المحددة، ليس لديه أيضًا إجابة جيدة على خطر أن يتم ضعف البشر بشكل عام مقارنة بالذكاءات الاصطناعية.

• تسارع دفاعي تفاضلي ، ولكن لا تهتم بـ 'مركزية وديمقراطية'. اعتماد السيطرة المركزية من أجل السلامة له جاذبية دائمة لجزء من الناس ، والقراء بلا شك معتادون بالفعل على العديد من الأمثلة وسلبياتها. في الآونة الأخيرة ، انخفضت بعض الآراء بأن السيطرة المركزية المفرطة هي الحل الوحيد لتطرفات التكنولوجيا المستقبلية: انظرهذا السيناريو الافتراضي حيث "يتم تزويد الجميع ب "علامة الحرية" - وهي نتيجة لأجهزة المراقبة الأكثر محدودية التي يمكن ارتداؤها المألوفة اليوم ، مثل علامة الكاحل المستخدمة في العديد من البلدان كبديل للسجن ... يتم تحميل الفيديو والصوت المشفرين باستمرار وتفسيرهما آليا في الوقت الفعلي ". ومع ذلك ، فإن التحكم المركزي هو الطيف. إحدى النسخ الأكثر اعتدالا من التحكم المركزي التي يتم تجاهلها عادة ، ولكنها لا تزال ضارة ، هي مقاومة التدقيق العام في التكنولوجيا الحيوية (على سبيل المثال. طعام, اللقاحات), وأن التقاليد ذات المصدر المغلق التي تسمح لهذا المقاومة بالانتشار دون تحدي.

يكون خطر هذا النهج، بالطبع، أن المركز في كثير من الأحيان هو بحد ذاته مصدر للخطر. رأينا هذا في Covid، حيث تم تمويل أبحاث الربح من الوظيفة بواسطةحكومات عالمية رئيسية متعددةقد يكون المصدر المحتمل للوباء، الأبستمولوجيا المركزية أدت إلى منظمة الصحة العالميةعدم الاعتراف لـ سنواتأن كوفيد هو معد بالهواء، ومُجبَرال distانسوا الاجتماعيولقاحالتكاليف الإلزامية أدت إلى ردود أفعال سياسية قد تتردد لعقود. من الممكن أن تحدث حالة مماثلة بسبب أي مخاطر تتعلق بالذكاء الاصطناعي أو التقنيات الأخرى الخطرة. سيكون النهج اللامركزي أفضل في التعامل مع المخاطر من الوسط نفسه.

• الدفاع اللامركزي ، ولكن لا تهتم بالتسارع - في الأساس ، محاولة إبطاء التقدم التكنولوجي ، أو الاقتصادية degrowth.

التحدي مع هذه الاستراتيجية ذو طابعين. أولاً، فعلى الرغم من أن التكنولوجيا والنمو الاقتصادي كانا جيدين بشكل كبير للبشرية، فإن أي تأخير في ذلك يفرض تكاليفالتي هيصعب التهويل. ثانيًا، في عالم غير توتاليتاري، عدم التقدم غير مستقر: أي شخص يقوم بـ "الغش" بشكل أكبر ويجد طرقًا قابلة للإنكار للتقدم على أي حال سيتقدم. يمكن أن تعمل استراتيجيات التباطؤ إلى حد ما في بعض السياقات: الطعام الأوروبي أكثر صحة من الطعام الأمريكي هو مثال، ونجاح عدم انتشار الأسلحة النووية حتى الآن هو آخر. ولكنها لا يمكن أن تعمل إلى الأبد.

مع d/acc ، نريد أن:

• كن مبدئيًا في وقت تصبح فيه الكثير من العالم قبليًا، ولا تقوم فقط ببناء أي شيء - بل نريد بناء أشياء محددة تجعل العالم أكثر أمانًا وأفضل.
• اعترف بأن التقدم التكنولوجي المتسارع يعني أن العالم سيصبح غريبا جدا ، وأن إجمالي "بصمة" البشرية على الكون ستزداد فقط. يجب أن تتحسن قدرتنا على إبقاء والنباتات والأشخاص المعرضين للخطر بعيدا عن الأذى ، لكن السبيل الوحيد للخروج هو المضي قدما.
• بناء تكنولوجيا تحافظ على سلامتنا دون الافتراض أن "الأشخاص الطيبون (أو الذكاءات الاصطناعية الطيبة) هم من يتولون الأمور". نقوم بذلك من خلال بناء أدوات تكنولوجيةأكثر فعالية بطبيعتهاعند استخدامها للبناء والحماية أكثر من استخدامها للتدمير.

طريقة أخرى للتفكير في d/acc هي العودة إلى إطار منحركات حزب القراصنةفي أوروبا في أواخر العشرينات: التمكين.

الهدف هو بناء عالم نحافظ فيه على وكلاء البشر، وتحقيقكلاحرية السلبية من تجنب التدخل النشط (سواء من الأشخاص الآخرين الذين يتصرفون كمواطنين خاصين، أو من الحكومات، أو من الروبوتات فائقة الذكاء) مع قدرتنا على تشكيل مصائرنا الخاصة، وحرية الإيجابية من ضمان أن لدينا المعرفة والموارد لذلك. يصدى هذا تقليدًا ليبراليًا كلاسيكيًا طويل القرون، الذي يشمل أيضًا تركيز ستيوارت براند على الوصول إلى الأدواتوجون ستيوارت ميل'sتركيز على التعليمبجانبحريةكمكونات رئيسية لتقدم الإنسان - وربما، يمكن للشخص أن يضيف، رغبة بكمنستر فولر في رؤية عملية الحل العالمية تكونمشاركة وتوزيع واسع النطاق. يمكننا أن نرى د / لجنة التنسيق الإدارية كوسيلة لتحقيق هذه الأهداف نفسها بالنظر إلى المشهد التكنولوجي للقرن 21st.

البعد الثالث: البقاء والازدهار

في مقالتي في العام الماضي، ركزت بشكل خاص على التقنيات الدفاعية: الدفاع الفيزيائي، الدفاع البيولوجي، الدفاع السيبراني والدفاع المعلوماتي. ومع ذلك، الدفاع المركزي ليس كافيا لجعل العالم عظيما: عليك أيضا أن تمتلك رؤية إيجابية متفكرة لما يمكن للإنسانية استخدام تمركزها الجديد وسلامتها لتحقيقه.

كان يحتوي منشور العام الماضي على رؤية إيجابية، في موقعين:

1. بالتركيز على تحديات الذكاء الخارق ، اقترحت مسارا (بعيدا عن الأصل بالنسبة لي) لكيفية الحصول على ذكاء خارق دون عدم التمكين:
   1. اليوم، ابنِ الذكاء الاصطناعي كأدوات بدلاً من كونه عملاءً ذاتية الحكمة
   2. غدًا استخدم أدوات مثلالواقع الافتراضي, myoelectricsوواجهات الدماغ الحاسوب لخلق ردود فعل أكثر تضييقا وتضييقا بين الذكاء الاصطناعي والبشر
   3. مع مرور الوقت، تتجه نحو نهاية نهائية حيث يكون الذكاء الفائق مزيجاً متشابكًا بإحكام بين الآلات ونحن.
2. عند الحديث عن الدفاع عن المعلومات ، ذكرت أيضا بشكل عرضي أنه بالإضافة إلى التكنولوجيا الاجتماعية _defensiv_e تحاول مساعدة المجتمعات في الحفاظ على التماسك والحصول على خطاب عالي الجودة في مواجهة المهاجمين ، هناك أيضا تقنية اجتماعية تقدمية يمكن أن تساعد المجتمعات بسهولة أكبر على إصدار أحكام عالية الجودة: pol.isهو مثال واحد، وتوقع الأسواقهم أبواب أخرى.

لكن هذين النقطتين شعرتا بالانفصال عن الحجة d/acc: "هنا بعض الأفكار لخلق عالم أكثر ديمقراطية ومحبة للدفاع على الطبقة الأساسية، وبالمناسبة هنا بعض الأفكار غير المتصلة بكيفية يمكننا فعل الذكاء الفائق".

ومع ذلك ، أعتقد في الواقع أن هناك بعض الروابط المهمة جدا بين ما تم وصفه أعلاه بأنه تقنية d / acc "دفاعية" و "تقدمية". دعنا نوسع مخطط d / acc من منشور العام الماضي ، بإضافة هذا المحور (أيضا ، دعنا نعيد تسميته "البقاء مقابل الازدهارإضافة العبارة ") إلى الرسم البياني ومشاهدة ما يظهر.

هناك نمط متسق في جميع المجالات يشير إلى أن العلم والأفكار والأدوات التي يمكن أن تساعدنا على 'البقاء' في مجال واحد مرتبطة بشكل وثيق بالعلم والأفكار والأدوات التي يمكن أن تساعدنا على 'الازدهار'. بعض الأمثلة:

• كثير من الأبحاث الحديثة المعادية لكوفيد تركز علىدور الاستمرارية الفيروسيةفي الجسم كآلية لماذا يعتبر الكوفيد الطويل مشكلة كبيرة. وفي الآونة الأخيرة، هناك أيضًا علامات على استمرارية الفيروساتقد يكون مسؤولاً عن مرض الزهايمر- إذا كانت الحقيقة، فهذا يعني أن التعامل مع الاستمرارية الفيروسية عبر جميع أنواع الأنسجة قد يكون مفتاحًا لحل مشكلة الشيخوخة.
• منخفضة التكلفة ومصغرة أدوات الصورمثل تلك التي تكونبنيت من قبل Openwaterيمكن أن تكون قوية في علاجmicroclots، أو الثبات الفيروسي ، والسرطانات ، ويمكن أيضًا استخدامها لـبي سي آي.
• تحفز الأفكار المشابهة جداً بناء أدوات اجتماعية مصممة للبيئات العدائية للغاية، مثل gate.ملاحظات المجتمع، والأدوات الاجتماعية المصممة لبيئات تعاونية معقولة، مثل pol.is.
• توقعات الأسواق هي قيمة في كل من high-cooperation و عالية الصعوبةالبيئات.
• تقنيات الأدلة بدون معرفة والتقنيات المماثلة للقيام بالحساب على البيانات مع الحفاظ على الخصوصية تزيد من البيانات المتاحة للعمل المفيد مثل العلم، وتزيد من الخصوصية.
• الطاقة الشمسية والبطاريات رائعة لـتعزيز الموجة التالية من النمو الاقتصادي النظيف، ولكنها رائعة أيضًا للتفكير اللامركزي والصمود الفعلي.

بالإضافة إلى ذلك، هناك أيضًا تبعيات متقاطعة هامة بين مجالات الموضوع:

• تعد تقنية BCI ذات صلة كتقنية للدفاع عن المعلومات والتعاون، لأنها يمكن أن تمكّن من التواصل بشكل أكثر تفصيلاً لأفكارنا ونوايانا. لا يعتبر BCI مجرد اتصال بين الروبوت والوعي: بل يمكن أن يكون أيضًا اتصالًا بين الوعي والروبوت والوعي. هذا يعكس افتراضات متعددة حول قيمة BCI.
• يعتمد العديد من التقنيات الحيوية على مشاركة المعلومات ، وفي العديد من السياقات ، ستكون الناس مرتاحة فقط عند مشاركة المعلومات إذا كانوا واثقين من أنها ستستخدم لتطبيق واحد فقط. يعتمد ذلك على تقنية الخصوصية (على سبيل المثال ، ZKP ، FHE ، obfuscation ...)
• يمكن استخدام تقنية التعاون لتنسيق التمويل لأي من مجالات التكنولوجيا الأخرى

السؤال الصعب: سلامة الذكاء الاصطناعي، الجداول الزمنية القصيرة والتنظيم

الأشخاص المختلفين لديهم جداً جداً جداً جداً أجندات ذكاء اصطناعي مختلفة. جدول من Zuzalu في الجبل الأسود، 2023.

كانت الحجة ضد رسالتي العام الماضي والتي وجدتها أكثر إقناعا هي نقد من مجتمع السلامة الذكاء الاصطناعي. تقول الحجة: "بالتأكيد ، إذا كان لدينا نصف قرن حتى نحصل على الذكاء الاصطناعي قوية ، فيمكننا تركيز طاقاتنا وبناء كل هذه الأشياء الجيدة. لكن في الواقع يبدو من المحتمل أن يكون لدينا جداول زمنية مدتها ثلاث سنوات حتى AGI ، وثلاث سنوات أخرى حتى الذكاء الفائق. وهكذا إذا كنا لا نريد تدمير العالم أو الوقوع في فخ لا رجعة فيه ، فلا يمكننا فقط تسريع الخير ، وعلينا أيضا إبطاء السيئ ، وهذا يعني تمرير لوائح قوية قد تجعل الأشخاص الأقوياء مستائين ". في رسالتي العام الماضي ، لم أدعو بالفعل إلى أي استراتيجية محددة "لإبطاء السيئ" ، بخلاف النداءات الغامضة لعدم بناء أشكال محفوفة بالمخاطر من الذكاء الفائق. وهنا ، يجدر بنا معالجة السؤال مباشرة: إذا كنا نعيش في أقل عملية في العالم, حيث يكون خطر الذكاء الاصطناعي عاليًا والجداول الزمنية قد تكون بعيدة خمس سنوات، ما هو التنظيم الذي أدعمه؟

أولاً، الحالة التي تستدعي الحذر حول التشريعات الجديدة

في العام الماضي ، كان التنظيم الذكاء الاصطناعي الرئيسي المقترح هو مشروع قانون SB-1047 في كاليفورنيا. SB-1047 يتطلب من مطوري النماذج الأقوى (التي تتطلب أكثر من 100 مليون دولار للتدريب، أو أكثر من 10 ملايين دولار في حالة الضبط الدقيق) اتخاذ بعض التدابير لاختبار السلامة قبل الإفراج عنها. بالإضافة إلى ذلك، فإنه يفرض المسؤولية على مطوري النماذج الذكية إذا لم يتخذوا العناية الكافية. واعترض العديد من المعارضين على الفاتورة وقالوا إنها كانت "gate".تهديد للمصدر المفتوح“; لم أوافق ، لأن عتبات التكلفة تعني أنها أثرت فقط على أقوى النماذج: حتى LLama3 كان ربما تحت الحد الأدنى. ولكن عند النظر إلى الوراء ، أعتقد أن هناك قضية أكبر مع المشروع: مثل معظم التنظيمات ، كان متكيفًا بشكل زائد مع الوضع الحالي. تثبت التركيز على تكلفة التدريب هشا في مواجهة التكنولوجيا الجديدة بالفعل: تم تدريب نموذج Deepseek v3 ذو جودة حديثة بتكلفة 6 ملايين دولار فقط، وفي نماذج جديدة مثل o1تتحول التكاليف من التدريب إلى استنتاج بشكل أكثر عمومية.

ثانياً، من المرجح أن الممثلين الأكثر احتمالاً الذين سيكونون في الواقع مسؤولين عن سيناريو كارثة تتعلق بذكاء صناعي فائق هم بشكل واقعي الجيوش. كما أننا رأيت في النصف الأخير من القرن الماضي من الأمان البيولوجي(وما باعد ذلك)، الجيوش مستعدة لفعل أشياء مخيفة، ويمكنها بسهولة cometer أخطاء. استخدام الذكاء الاصطناعي في الجيش يتقدم بسرعة اليوم (انظر أوكرانيا, غزة). وأي تنظيم للسلامة تمرره الحكومة بشكل افتراضي من شأنه أن يعفي جيشها والشركات التي تتعاون بشكل وثيق مع الجيش.

ومع ذلك ، فإن هذه الحجج ليست أسبابا لإلقاء أيدينا وعدم القيام بأي شيء. بدلا من ذلك ، يمكننا استخدامها كدليل ، ومحاولة التوصل إلى قواعد من شأنها أن تثير هذه المخاوف على أقل تقدير.

الاستراتيجية 1: المسؤولية

إذا قام شخص ما بطريقة ما تسبب في إلحاق أضرار قابلة للمسائلة قانونيًا، فإنه يمكن يكون تمت الدعوى. هذا لا يحل مشكلة المخاطر الناجمة عن الجيوش والجهات الفاعلة "فوق القانون" الأخرى، ولكنه يعتبر نهجًا عامًا جدًا يتجنب الاحتكاك الزائد، وغالبًا ما مدعمعن طريق المتحررين الذين يميلون نحو الليبراليةاقتصاديون لهذا السبب الدقيق.

الأهداف الرئيسية للمسؤولية التي تم النظر فيها حتى الآن هي:

• المستخدمون - الأشخاص الذين يستخدمون الذكاء الاصطناعي
• المنشئون - وسطاء يقدمون الذكاء الاصطناعي كخدمة للمستخدمين
• المطورون - الأشخاص الذين يبنون الذكاء الاصطناعي

وضع المسؤولية على المستخدمين يعتبر أكثر توافقًا مع الحوافز. بينما الرابط بين كيفية تطوير النموذج وكيف يتم استخدامه.غالبا ما يكون غير واضح، يقرر المستخدم بالضبط كيفية استخدام الذكاء الاصطناعي. تخلق المسؤولية على المستخدمين ضغطا قويا للقيام الذكاء الاصطناعي بالطريقة التي أعتبرها الطريقة الصحيحة: التركيز على بناء بدلات ميكا للعقل البشري ، وليس على خلق أشكال جديدة من الحياة الذكية المكتفية ذاتيا. يستجيب الأول بانتظام لنية المستخدم ، وبالتالي لن يتسبب في إجراءات كارثية ما لم يرغب المستخدم في ذلك. هذا الأخير سيكون لديه أكبر خطر من الانطلاق وخلق سيناريو كلاسيكي "الذكاء الاصطناعي المارقة". فائدة أخرى لوضع المسؤولية في أقرب وقت ممكن من الاستخدام النهائي هي أنه يقلل من خطر أن تؤدي المسؤولية إلى اتخاذ الأشخاص إجراءات ضارة بطرق أخرى (على سبيل المثال ، المصدر المغلق ، KYC والمراقبة ، تواطؤ الدولة / الأعمال لتقييد المستخدمين سرا كما هو الحال مع على سبيل المثال ، إلغاء الخدمات المصرفية ، وإغلاق مناطق كبيرة من العالم).

هنا حجة كلاسيكية ضد وضع المسؤولية على المستخدمين فقط: قد يكون المستخدمون أفرادًا عاديين بدون الكثير من المال ، أو حتى مجهولين ، لا يتركون أحدًا يمكنه فعليًا دفع تكاليف الأضرار الكارثية. يمكن مبالغة هذه الحجة: حتى إذا كان بعض المستخدمين صغار جدًا ليتحملوا المسؤولية ، فإن العميل المتوسط لمطور الذكاء الاصطناعي ليس كذلك ، وبالتالي سيظل لدى مطوري الذكاء الاصطناعي حافز لبناء منتجات يمكن أن تعطي المستخدمين ضمانًا بأنهم لن يواجهوا مخاطر المسؤولية العالية. ومع ذلك ، فإنه لا يزال حجة صحيحة ويجب معالجتها. تحتاج إلى تحفيز شخص في السلسلة الإنتاجية لديه الموارد لاتخاذ المستوى المناسب من الرعاية للقيام بذلك ، وكل من المنشئين والمطورين متاحين وهدف سهل.لدي الكثير من التأثيرعلى مدى سلامة أو عدم سلامة النموذج.

تبدو مسؤولية الناشر معقولة. أحد المخاوف الشائعة هو أنه لن يعمل مع النماذج مفتوحة المصدر ، ولكن هذا يبدو قابلا للإدارة ، خاصة وأن هناك فرصة كبيرة لأن تكون أقوى النماذج مغلقة المصدر على أي حال (وإذا تبين أنها مفتوحة ، فعندئذ في حين أن مسؤولية الناشر لا تنتهي مفيدة للغاية ، كما أنها لا تسبب الكثير من الضرر). مسؤولية المطور لها نفس القلق (على الرغم من أنه مع النماذج مفتوحة المصدر ، هناك بعض عثرة السرعة في الحاجة إلى ضبط نموذج لجعله يفعل شيئا غير مسموح به في الأصل) ، ولكن تنطبق نفس الحجة المضادة. كمبدأ عام ، وضع "ضريبة" على السيطرة ، والقول بشكل أساسي "يمكنك بناء أشياء لا تسيطر عليها، أو يمكنك بناء أشياء تتحكم فيها ، ولكن إذا قمت ببناء أشياء تتحكم فيها ، فيجب استخدام 20٪ من التحكم لأغراضنا "، يبدو وكأنه وضع معقول للأنظمة القانونية.

إحدى الأفكار التي يبدو أنها لم تستكشف بالقدر الكافي هي وضع المسؤولية على الجهات الفاعلة الأخرى في طور الإعداد ، والتي هي أكثر ضمانا للحصول على موارد جيدة. تتمثل إحدى الأفكار الصديقة للغاية في وضع المسؤولية على مالكي أو مشغلي أي معدات يستحوذ عليها الذكاء الاصطناعي (على سبيل المثال عن طريق القرصنة) في عملية تنفيذ بعض الإجراءات الضارة بشكل كارثي. وهذا من شأنه أن يخلق حافزا واسعا للغاية للقيام بالعمل الشاق لجعل البنية التحتية للعالم (وخاصة الحوسبة والحيوية) آمنة قدر الإمكان.

الاستراتيجية 2: زر الإيقاف العالمي للأجهزة الكبيرة على نطاق صناعي

إذا كنت مقتنعا بأننا بحاجة إلى شيء "عضلي" أكثر من قواعد المسؤولية ، فهذا ما سأذهب إليه. سيكون الهدف هو الحصول على القدرة على تقليل الحوسبة المتاحة في جميع أنحاء العالم بنسبة ~ 90-99٪ لمدة 1-2 سنوات في فترة حرجة ، لشراء المزيد من الوقت للبشرية للاستعداد. لا ينبغي المبالغة في قيمة 1-2 سنوات: سنة من "وضع زمن الحرب" يمكن بسهولة أن تساوي مائة عام من العمل في ظل ظروف الرضا عن النفس. طرق لتنفيذ "توقف" ، بما في ذلك مقترحات ملموسة مثل يتطلب التسجيلوالتحقق من الموقعمن الأجهزة.

النهج الأكثر تقدما هو استخدام خداع التشفير الذكي: على سبيل المثال ، يمكن تجهيز الأجهزة الذكاء الاصطناعي على نطاق صناعي (ولكن ليس استهلاكيا) التي يتم إنتاجها بشريحة أجهزة موثوقة تسمح لها فقط بمواصلة العمل إذا حصلت على 3/3 توقيعات مرة واحدة في الأسبوع من الهيئات الدولية الرئيسية ، بما في ذلك واحدة على الأقل غير تابعة للجيش. ستكون التوقيعات مستقلة عن الجهاز (إذا رغبت في ذلك ، يمكننا حتى طلب دليل صفر المعرفة على أنها نشرت على blockchain) ، لذلك سيكون كل شيء أو لا شيء: لن تكون هناك طريقة عملية للسماح لجهاز واحد بالاستمرار في العمل دون تفويض جميع الأجهزة الأخرى.

يشعر هذا بأنه يفحص الصناديق من حيث تحقيق الفوائد القصوى وتقليل المخاطر:

• إنها قدرة مفيدة أن نمتلكها: إذا حصلنا على علامات تحذيرية تشير إلى أن الذكاء الاصطناعي القريب من التفوق يبدأ في فعل أشياء تشكل خطرًا للضرر الكارثي، سنرغب في أن نأخذ الانتقال ببطء أكثر.
• إلى أن تحدث مثل هذه اللحظة الحرجة ، فإن مجرد امتلاك القدرة على التوقف المؤقت لن يسبب ضررا كبيرا للمطورين.
• بالتركيز على الأجهزة الصناعية بمقياس كبير، وتحقيق 90-99% فقط كهدف، سيتجنب بعض الجهد المستقبح لوضع رقائق تجسس أو مفاتيح قتل في أجهزة الكمبيوتر المحمولة للمستهلكين أو فرض تدابير مستبدة على الدول الصغيرة ضد إرادتها.
• التركيز على الأجهزة العتادية يبدو قويًا جدًا في مواجهة التغيرات في التكنولوجيا. لقد رأينا عبر عدة أجيال من الذكاء الاصطناعي أن الجودة تعتمد بشكل كبير على الحوسبة المتاحة، وخاصة في الإصدارات الأولى لنمط جديد. وبالتالي، يمكن أن يجعل تقليل الحوسبة المتاحة بمقدار 10-100 مرة الفرق بسهولة بين فوز الذكاء الاصطناعي الفائق بسرعة أو خسارته في معركة سريعة ضد البشر الذين يحاولون إيقافه.
• سوف ينشأ الإزعاج الأساسي للحاجة إلى الاتصال بالإنترنت مرة واحدة في الأسبوع للحصول على توقيع ضغط قوي ضد تمديد النظام للأجهزة الاستهلاكية.
• يمكن التحقق منها من خلال التفتيش العشوائي، والقيام بذلك على مستوى الأجهزة سيجعل من الصعب إعفاء المستخدمين الSPECIFIC (النهج الذي يعتمد على إجباري قانونياً على الإغلاق، بدلاً من فنياً، لا يتمتع بهذه الخاصية الكل أو لا شيء، مما يجعلها تحمل مخاطر أكبر بكثير من الانزلاق في إعفاءات للقوات المسلحة وما إلى ذلك)

يتم النظر بقوة في تنظيم الأجهزة بالفعل ، على الرغم من أنه بشكل عام من خلال إطار ضوابط التصدير، الذي يحتوي في جوهره على فلسفة 'نثق في جانبنا، لكن لا نثق في الجانب الآخر'. وقد دعا ليوبولد أشنبرينر بشهرة إلى أن الولايات المتحدة يجب سباق للحصول على ميزة حاسمةوبعد ذلكإجبار الصين بشكل أساسيلتوقيع بروتوكول يحدد عدد الصناديق التي يسمح لهم بتشغيلها. بالنسبة لي، يبدو هذا النهج خطيرًا ويمكن أن يجمع بين عيوبسباقات متعددة القطبيةوالتمويه. إذا كان علينا تقييد الناس ، يبدو أنه من الأفضل تقييد الجميع على قدم المساواة ، والعمل الشاق على محاولة التعاون لتنظيم ذلك بدلاً من أن يسعى حزب واحد إلى السيطرة على الجميع الآخرين.

تقنيات الحسابات العميقة في مجال مخاطر الذكاء الاصطناعي

كلتا هاتين الاستراتيجيتين (المسؤولية وزر الإيقاف المادي) لديهما ثغرات فيهما، ومن الواضح أنهما مجرد توقف مؤقت: إذا أصبح من الممكن القيام بشيء ما على جهاز كمبيوتر فائق في الوقت T، فمن المحتمل أن يكون من الممكن القيام به على جهاز كمبيوتر محمول في الوقت T + 5 سنوات. وبالتالي نحتاج إلى شيء أكثر استقرارًا للحصول على وقت إضافي. تكنولوجيا d/acc العديد من التقنيات متعلقة هنا. يمكننا النظر في دور تكنولوجيا d/acc على النحو التالي: إذا استولت الذكاء الاصطناعي على العالم، كيف سيفعل ذلك؟

• يخترق أجهزة الكمبيوتر الخاصة بنا → الدفاع السيبراني
• تُخلق وباء فائق → الدفاع البيولوجي
• يقنعنا (سواء للثقة فيه، أو لعدم الثقة في بعضنا البعض) → info-defense

كما ذكر بإيجاز أعلاه ، فإن قواعد المسؤولية هي نمط تنظيمي ودية للتكنولوجيا المالية الموزعة ، لأنها يمكن أن تحفز بكفاءة جميع أنحاء العالم على اعتماد هذه الدفاعات وتنظيرها بجدية. تايوانتم التجربةمؤخرًا ، تمت مساءلة الشركات عن الإعلانات الكاذبة ، والتي يمكن اعتبارها مثالًا واحدًا على استخدام المسؤولية لتشجيع الدفاع عن المعلومات. لا يجب أن نكون متحمسين جدًا لوضع المسؤولية في كل مكان ، ونتذكر فوائد الحرية العادية في تمكين الأفراد الصغار من المشاركة في الابتكار دون خوف من الدعاوى القضائية ، ولكن عندما نريد دفعًا أقوى للأمان ، يمكن أن تكون المسؤولية مرنة وفعالة تمامًا.

دور العملات المشفرة في الحسابات المحاسبية

جزء كبير من d/acc يتجاوز بكثير مواضيع سلسلة الكتلة النموذجية: الأمان الحيوي و BCI وأدوات الحوار التعاوني تبدو بعيدة عن الأشياء التي يتحدث عنها شخص مشفر عادة. ومع ذلك ، أعتقد أن هناك بعض الروابط الهامة بين الكريبتو و d/acc ، ولا سيما:

• d/acc هو تمديد للقيم الأساسية للعملة المشفرة (اللامركزية، مقاومة الرقابة، الاقتصاد العالمي المفتوح والمجتمع) إلى مجالات تكنولوجيا أخرى.
• لأن مستخدمي العملات الرقمية هم المبتكرين المبكرين بطبيعتهم، وهناك توافق في القيم، فإن المجتمعات الرقمية هي المستخدمين المبكرين الطبيعيين لتكنولوجيا d/acc. التركيز الكبير على المجتمع (سواء عبر الإنترنت أو خارجه، على سبيل المثال الأحداث ونوافذ منبثقة)، وحقيقة أن هذه المجتمعات تقوم فعليًا بأمور نواهضة بدلاً من مجرد الحديث مع بعضها البعض، يجعل المجتمعات الرقمية مفترق طرق جذابة للغاية ومختبرات لتقنيات d/acc التي تعمل بشكل أساسي على المجموعات بدلاً من الأفراد (على سبيل المثال جزء كبير من الدفاع عن المعلومات والدفاع الحيوي). الأشخاص الذين يعملون في مجال العملات الرقمية يقومون فقط بالأشياء معًا.
• يمكن استخدام العديد من تقنيات العملات المشفّرة في مجالات الموضوعات المالية والحوكمة ووسائل التواصل الاجتماعي المركزية: البلوكشينات لبناء بنية تحتية أكثر صلابة ولامركزية، ودلائل معرفية صفرية لحماية الخصوصية، وما إلى ذلك. اليوم، تم بناء العديد من أكبر الأسواق التنبؤية على البلوكشينات، وهي تصبح تدريجياً أكثر تطوراً ولامركزية وديمقراطية.
• هناك أيضًا فرص من النوع الرابح للتعاون في التقنيات المجاورة للعملات المشفرة والتي تكون مفيدة جدًا لمشاريع العملات المشفرة، ولكنها أيضًا أساسية لتحقيق أهداف d/acc: التحقق الرسمي، برامج الكمبيوتر والأمان الأجهزة، وتكنولوجيا الحوكمة المقاومة للخصم. تجعل هذه الأشياء سلسلة كتل Ethereum ومحافظ DAO أكثر أمانًا وقوة، وهي تحقق أيضًا أهداف دفاع الحضارة المهمة مثل تقليل ضعفنا أمام الهجمات الإلكترونية، بما في ذلك من الذكاء الاصطناعي الفائق المحتمل.

تطبيق Cursive يستخدم التشفير الكامل المتجانس (FHE) للسماح للمستخدمين بتحديد مجالات الاهتمام المشتركة مع المستخدمين الآخرين، مع الحفاظ على الخصوصية. تم استخدام هذا في مدينة إيدج، واحدة من العديد من الفروع التابعة لـ gate.Zuzalu, في تشيانغ ماي.

بالإضافة إلى هذه التقاطعات المباشرة، هناك أيضًا نقطة مشتركة أخرى حاسمة من الاهتمام: آليات التمويل.

تمويل d/acc والسلع العامة

واحدة من اهتماماتي المستمرة هي التوصل إلى آليات أفضل لتمويل السلع العامة: مشاريع تكون قيمة لجماعات كبيرة جدًا من الناس، ولكنلا تمتلكنموذج عمل يمكن الوصول إليه بشكل طبيعي. عملي السابق في هذا يشمل مساهماتي فيالتمويل التربيعيواستخدامه فيمنح جيتكوين, ريترو PGF، ومؤخرًا أكثر من ذلكتمويل عميق.

يشك العديد من الناس في السلع العامة كمفهوم. يأتي الشك عمومًا من مصدرين:

1. حقيقة أن السلع العامة استُخدمت تاريخيًا كمبرر للتخطيط المركزي المتسلط والتدخل الحكومي في المجتمع والاقتصاد.
2. تصور عام أن تمويل السلع العامة يفتقر إلى الصرامة ويتم تشغيله على انحياز الرغبة الاجتماعية- ما يبدو جيدًا بدلاً من ما هو جيد - ويفضل الأشخاص الداخليين الذين يستطيعون لعب اللعبة الاجتماعية.

هذه هي النقد المهم والنقد الجيد. ومع ذلك، سأقول أن تمويل السلع العامة المتمركزة بقوة ضروري لرؤية دي/أك، لأن الهدف الرئيسي لدي/أك (تقليل نقاط التحكم المركزية) يعرقل بالفعل العديد من النماذج التجارية التقليدية. من الممكن بناء أعمال ناجحة على المصدر المفتوح - عدةبالفيضماناتنقوم بذلك - ولكن في بعض الحالات يكون من الصعب بما فيه الكفاية أن المشاريع الهامة تحتاج إلى دعم مستمر إضافي. لذا، علينا أن نفعل الأمر الصعب ونجد طريقة لتمويل السلع العامة بطريقة تعالج كل من الانتقادات المذكورة أعلاه.

الحل للمشكلة الأولى عمومًا هو الحياد الموثوقو@VitalikButerin/the-meaning-of-decentralization-a0c92b76a274">decentralization. Central planning is problematic because it gives control to elites who might turn abusive, and because it often يتناسب بشكل زائد مع الحالة الحاليةويصبح أقل وأقل فعالية مع مرور الوقت. كان التمويل التربيعي والآليات المماثلة بالضبط عن تمويل السلع العامة بطريقة محايدة بمصداقية و(معماريا وسياسيا) مركزة قدر الإمكان.

المشكلة الثانية أكثر تحدياً. مع التمويل التربيعي، لقد كان الانتقاد الشائع هو أنهيصبح بسرعة مسابقة شعبية، مما يتطلب من ممولي المشروع بذل الكثير من الجهد في الحملات العامة. علاوة على ذلك ، يتم تمويل المشاريع "أمام مقل عيون الناس" (مثل تطبيقات المستخدم النهائي) ، ولكن المشاريع التي تكون أكثر في الخلفية (النموذج الأصلي "الاعتماد الذي يتم الحفاظ عليه بواسطة رجل في نبراسكا“) لا تحصل على أي تمويل على الإطلاق. يعتمد تمويل التفاؤل على عدد أصغر من حاملي شارات الخبراء؛ هنا، يتم تقليل تأثيرات مسابقة الشهرة، ولكن يتم تكبير التأثيرات الاجتماعية لأن يكون لديك علاقات شخصية وثيقة مع حاملي الشارات.

تمويل عميقهو جهدي الأخير الخاص لحل هذه المشكلة. يحتوي التمويل العميق على ابتكارين أساسيين:

1. الرسم البياني للتبعية. بدلاً من طرح سؤال عالمي لكل محلف (ما هو قيمة المشروع أ للبشرية؟)، نطرح سؤالًا محليًا (هل المشروع أ أو المشروع ب أكثر قيمة للنتيجة ج؟ وبكم؟). البشر سيئون بشكل معروف في الإجابة على الأسئلة العالمية: فيدراسة مشهورة، عندما سئلوا عن مقدار الأموال التي سيدفعونها لإنقاذ الطيور N ، أجاب المستجيبون ما يقرب من 80 دولارا ل N = 2,000 و N = 200,000. الأسئلة المحلية أكثر قابلية للحل. ثم نجمع الإجابات المحلية في إجابة عالمية من خلال الحفاظ على "رسم بياني للتبعية": لكل مشروع ، ما هي المشاريع الأخرى التي ساهمت في نجاحه ، وكم؟
2. الذكاء الاصطناعي كمتقدير الإنسان المقتضب. يتم تعيين المحلفين فقط عينة صغيرة عشوائية من جميع الأسئلة. هناك منافسة مفتوحة يمكن لأي شخص المشاركة فيها عن طريق تقديم نماذج AI التي تحاول ملء الحواف في الرسم البياني بكفاءة. الإجابة النهائية هي المجموع المرجح للنماذج التي تتوافق بشكل أكبر مع إجابات المحلفين. انظر هنا مثال لرمز. يسمح هذا النهج بتوسيع الآلية إلى حجم كبير جدًا، في حين يتطلب من المحلفين تقديم عدد قليل جدًا من "البتات" من المعلومات. وهذا يقلل من فرص الفساد، ويضمن جودة عالية لكل بت: يمكن للمحلفين أن يفكروا لفترة طويلة في كل سؤال، بدلاً من النقر بسرعة عبر مئات. عن طريق استخدام منافسة مفتوحة للذكاءات الاصطناعية، نقلل من التحيز من أي تدريب أو عملية إدارة لذكاء اصطناعي واحد. سوق مفتوح للذكاءات الاصطناعية كمحرك، والبشر كعجلة القيادة.

ولكن التمويل العميق ليس سوى أحدث مثال؛ فقد كانت هناك أفكار أخرى لآليات تمويل السلع العامة في السابق، وسيكون هناك المزيد في المستقبل.allo.expertيقوم بعمل جيد في تصنيفها. الهدف الأساسي هو إنشاء جهاز اجتماعي يمكنه تمويل السلع العامة بمستوى من الدقة والعدالة والدخول المفتوح يقترب على الأقل من الطريقة التي تموّل بها الأسواق السلع الخاصة. لا يجب أن يكون مثاليًا؛ بعد كل شيء، الأسواق بعيدة كل البعد عن الكمال بحد ذاتها. ولكن يجب أن يكون فعّالا بما فيه الكفاية حتى يستطيع المطورون العاملون على مشاريع مصدر مفتوح عالية الجودة تعود بالنفع على الجميع بأن يستطيعوا الاستمرار في القيام بذلك دون الشعور بالحاجة إلى إبرام تنازلات غير مقبولة.

اليوم، المشاريع الرائدة في معظم مجالات المواضيع الداخلية: اللقاحات، BCI، 'BCI' المشترك بين الحدود مثل التحكم الكهربائي للرسغ وتتبع العين, الأدوية المضادة للشيخوخة والأجهزة وما إلى ذلك هي ممتلكات. هذا يتسبب في عيوب كبيرة من حيث تأمين ثقة الجمهور، كما رأينا في كثير من فوقالمناطقبالفعل. إنه أيضًا يحول الانتباه نحو الديناميات التنافسية ("يجب على فريقنا الفوز في هذه الصناعة الحرجة!"), وبعيدًا عن المنافسة الأكبر للتأكد من أن هذه التكنولوجيا ستأتي بسرعة كافية لحمايتنا في عالم الذكاء الاصطناعي الفائق. لهذه الأسباب ، يمكن أن يكون تمويل السلع العامة القوي معززًا قويًا للشفافية والحرية. هذه طريقة أخرى يمكن بها أن تساعد مجتمع العملات المشفرة في العمل على الاستكشاف الجاد لهذه الآليات التمويل وجعلها تعمل بشكل جيد ضمن سياقها الخاص ، مما يجهزها للاعتماد الأوسع على العلوم والتكنولوجيا مفتوحة المصدر بشكل أكبر بشكل عام.

المستقبل

العقود القادمة تحمل تحديات مهمة. هناك تحديان كانا مؤخرا في ذهني:

• موجات جديدة قوية من التكنولوجيا، وخاصة الذكاء الاصطناعي القوي، قادمة بسرعة، وهذه التقنيات تأتي مع فخاخ مهمة يجب تجنبها. قد يستغرق الأمر خمس سنوات للوصول إلى "ذكاء اصطناعي فائق"، قد يستغرق خمسين سنة. على أية حال، ليس واضحًا أن النتيجة الافتراضية إيجابية تلقائيًا، وكما هو موضح في هذا المنشور و السابق، هناك عدة فخاخ لتجنبها.
• العالم يصبح أقل تعاونًا. الكثير من الجهات الفاعلة القوية التي كانت في الماضي تبدو أنها تتصرف في بعض الأحيان وفقًا لمبادئ عالية المستوى (العالمية، الحرية، الإنسانية المشتركة... القائمة تطول) الآن أكثر انفتاحًا وعدوانية في متابعة المصلحة الشخصية أو القبلية.

ومع ذلك ، لكل من هذه التحديات جانب إيجابي. أولاً ، لدينا الآن أدوات قوية جدًا لإنجاز عملنا المتبقي بشكل أسرع:

• يمكن استخدام الذكاء الاصطناعي الحالي والقريب في بناء تقنيات أخرى، ويمكن استخدامه كعنصر في الحوكمة (كما في التمويل العميق أومعلومات مالية). كما أنها ذات صلة كبيرة بـ BCI ، والتي يمكن أن توفر مزيدًا من المكاسب في الإنتاجية ذاتها.
• أصبح التنسيق على نطاق واسع ممكنًا الآن بمقاييس أكبر بكثير مما كان عليه من قبل. فالإنترنت ووسائل التواصل الاجتماعي قد زادت نطاق التنسيق، وزادت القوة المالية العالمية (بما في ذلك التشفير)، والآن يمكن لأدوات الدفاع والتعاون على المعلومات زيادة جودتها وربما قريبًا يمكن لتقنية الواجهة المخبرية الدماغية في شكل الإنسان إلى الحاسوب إلى الإنسان زيادة عمقها.
• التحقق الرسمي، العزل الرملي (متصفحات الويب، دوكر،Qubes, GrapheneOS، وأكثر من ذلك بكثير)، وحدات الأجهزة الآمنة، وتطور تقنيات أخرى يتحسن إلى درجة تجعل أمان الأمن السيبراني أفضل بكثير.
• كتابة أي نوع من البرامج أسهل بكثير مما كانت عليه قبل عامين.
• الأبحاث الأساسية الحديثة حول فهم كيفية عمل الفيروسات، وخاصة الفهم البسيط أن أهم شكل للانتقال الذي يجب حمايته هو الهوائي، تظهر مسارًا أكثر وضوحًا لكيفية تحسين الدفاع البيولوجي.
• التقدمات الأخيرة في التكنولوجيا الحيوية (مثل CRISPR، تقدماتفيbio-imaging) تقوم بعمل جميع أنواع التكنولوجيا الحيوية، سواء للدفاع أو طول العمر، أوسوبر-سعادة, أو استكشافمتعددرواية حياتيةالفرضيات، أو ببساطةفعل أشياء رائعة حقًا, أكثر وصولاً.
• التقدم في مجال الحوسبة والتكنولوجيا الحيوية معًا يمكنهما تمكين أدوات البيوتكنولوجيا الاصطناعية التي يمكنك استخدامها لتكييف صحتك ومراقبتها وتحسينها. تقنية الدفاع السيبراني مثل التشفير يجعل البعد الشخصي لهذا الأمر أكثر جدوى.

ثانيًا ، الآن أن العديد من المبادئ التي نحملها عزيزة لم تعد تحتلها فئات قليلة خاصة من الحرس القديم ، يمكن استعادتها بواسطة تحالف واسع يمكن لأي شخص في العالم الانضمام إليه. هذا هو ربما أكبر ميزة للتحالفات السياسية الأخيرة في جميع أنحاء العالم ، وهو ما يستحق أن يستفاد منه. لقد قامت العملة المشفرة بالفعل بعمل ممتاز في الاستفادة من ذلك والعثور على جاذبية عالمية ؛ يمكن لـ d/acc أن تفعل الشيء نفسه.

الوصول إلى الأدوات يعني أننا قادرون على التكيف وتحسين بيولوجيتنا وبيئتنا، وجزء "الدفاع" من d/acc يعني أننا قادرون على القيام بذلك دون انتهاك حرية الآخرين في القيام بالشيء نفسه.مبادئ التعددية الليبراليةيعني أن لدينا الكثير من التنوع في كيفية القيام بذلك، والتزامنا بأهداف الإنسانية المشتركة يعني أنه يجب القيام بذلك.

نحن، البشر، نستمر في أن نكون النجم الألمع. المهمة التي تواجهنا، وهي بناء قرن 21 الألمع الذي يحفظ بقاء الإنسان وحريته ووكالته ونحن نتجه نحو النجوم، هي مهمة تحدي. ولكنني واثق من أننا قادرون على ذلك.

تنصل:

1. تمت إعادة طبع هذه المقالة من [فيتاليك بوتيرين]. إعادة توجيه العنوان الأصلي: d / acc: بعد عام واحد. جميع حقوق التأليف والنشر تنتمي إلى المؤلف الأصلي [فيتاليك بوتيرين]. إذا كانت هناك اعتراضات على هذا النشر مرجى التواصل مع بوابة تعلمالفريق، وسيتولون عليه على الفور.
2. إخلاء المسؤولية عن المسؤولية: الآراء والآراء المعبر عنها في هذه المقالة هي فقط تلك الخاصة بالكاتب ولا تشكل أي نصيحة استثمارية.
3. فريق بوابة التعلم يقوم بترجمة المقالة إلى لغات أخرى. ما لم يذكر غير ذلك، يُحظر نسخ أو توزيع أو نسخ المقالات المترجمة.