Professional Documents
Culture Documents
إطار التدقيق الذكي لمعهد المدققين الداخليين العالمي
إطار التدقيق الذكي لمعهد المدققين الداخليين العالمي
طبعة خاصة
آراء ورؤى عالمية
الذكاء االصطناعي – الجزء الثالث
االستشاري
المساهمون
المجلس
بندرماخرالدين
حياتي بحر
نورجون المحتويات
مقدمة
لا أمام لجنة أخلقيات أو تحقيقات .هذا قد يحصل .وفقاتص ّور .روبوت – أو على األقل دماغه – يقف ماث ً ملحظة :هذا هو التقرير الثالث في
لجريدة الجارديان ،يجادل األكاديميون بأنه عندما تبدأ الروبوتات في دخول األماكن العامة ،والعمل إلى
جانب البشر ،تصبح الحاجة إلى تدابير للسلمة أكثر إلحاحًا ا .يحاول العلماء جعل قضية الروبوتات مزودة بـ سلسلة من ثلثة أجزاء .لمزيد من
"صندوق أخلق أسود" لتتبع قراراتهم ،وتمكينهم من شرح – نعم ،شرح – أعمالهم حين تقع الحوادث. المعلومات ،انظر الذكاء
يرى األساتذة في جامعة أكسفورد أن شركات الروبوتات يجب أن تتبع األمثلة واألنظمة التي وضعها قطاع االصطناعي – اعتبارات لمهنة
الطيران ،والتي تشمل تثبيت صناديق سوداء ومسجلت صوت في قمرة القيادة للتحقيق في حوادث
الطائرات ،وضمان تعلم دروس السلمة الهامة بعد هذه األحداث المأساوية .صندوق أخلق أسود ،مثبت
التدقيق الداخلي ،وإطار معهد
في الروبوت ،من شأنه أن يسجل قرارات هذا الروبوت ،وأسس اتخاذها ،وتحركاته ،والمعلومات من المدققين الداخليين لتدقيق الذكاء
أجهزة االستشعار المثبتة به كالكاميرات والميكروفونات ،وأجهزة تحديد المدى.
االصطناعي :التطبيقات العملية –
تأتي هذه اإلجراءات في أعقاب الحوادث األخيرة ،مثل عندما سقط "ستيف" ،روبوت دورية نايتسكوب الجزء أ.
( ،)K5من الدرج وسقط في نافورة أثناء تأدية الخدمة ،أو عندما تشارك روبوت ( )K5آخر في عراك في
مواقف السيارات مع رجل يبلغ من العمر 41عامًا ا أثناء قيامه بدورية في شوارع ماونتن فيو ،بوالية
كاليفورنيا ،أو الوحدة الروبوتية التي اتهمت بدهس طفل عمره 16شهرًاا في مركز تسوق في ستانفورد.
وكانت جميع اإلصابات البشرية طفيفة.
هناك مئات التقارير عن أخلقيات الذكاء االصطناعي ( .)AIومع ذلك ،فإن معظمها خفيفة الوزن ومليئة
بالمبتذالت حول وضع الناس أوالاً ،بحسب سكوت روزنبرغ ،محرر مجلة باكشانل .يقتطف روزنبرغ من
التقارير الصادرة مؤخرًاا من معهد الذكاء االصطناعي اآلن بجامعة نيويورك عن قطاع تقني يحاول إعادة
تشكيل المجتمع على طول خطوط الذكاء االصطناعي بدون أي ضمان لنتائج عادلة وموثوق بها .ويخلص
أحد التقارير إلى أن "الجهود المبذولة لتحميل الذكاء االصطناعي المسؤولية حول المعايير األخلقية حتى
اآلن باءت بالفشل ،وأن األطر األخلقية الجديدة للذكاء االصطناعي تحتاج إلى تجاوز المسؤولية الفردية
لتضع المصالح الصناعية والحكومية والعسكرية القوية للمساءلة عند تصميمها واستخدام للذكاء
االصطناعي ".في آراء المؤلفين ،يتم إدخال أنظمة الذكاء االصطناعى في مختلف المناطق الحساسة،
كالشرطة والتعليم والرعاية الصحية ،وغيرها من البيئات ،التي يكون فيها"خطأ ما في اللوغاريتمات يمكنه
أن يدمر حياة كائنً ما".
ينبغي أن ينظر التدقيق الداخلي في العديد من أهداف المهام أو الضوابط الرقابية ،واألنشطة أو اإلجراءات،
في تنفيذ اإلطار ،وتقديم خدمات استشارية أو توكيدية أو خدمات تدقيق داخلي مختلطة بين االثنين فيما
globaliia.org
آراء ورؤى عالمية
الذكاء االصطناعي – الجزء الثالث
يتعلق بأنشطة الذكاء االصطناعي للمؤسسة .وقد تم تقديم األهداف واألنشطة أو اإلجراءات ذات الصلة التي
تعالج االستراتيجية (عناصر القدرة على الصمود والكفاءة في مجال الذكاء االصطناعي) والحوكمة
(تصميم البيانات والبنية التحتية ،وعناصر جودة البيانات) من اإلطار في إطار معهد المدققين الداخليين
التدقيق الذكاء االصطناعي :التطبيقات العملية الجزء أ .توفر هذه الوثيقة األهداف واألنشطة أو اإلجراءات
ذات الصلة التي تعالج العوامل البشرية (عناصر األخالقيات والصناديق السوداء) والحوكمة (عنصر قياس
األداء).
العامل البشري
يتناول عنصر العامل البشري ،والذي يتضمن عنصري األخلق والصندوق السوداء ،خطر حدوث خطأ
بشري يضعف قدرة الذكاء االصطناعي في تحقيق النتائج المتوقعة.
األخلقيات
اللوغاريتمات التي وضعها البشر والتي تشمل األخطاء والتحيزات البشرية (سواء المتعمدة وغير المتعمدة)
ِ
اللوغاريتمات .وينظر عنصر العامل البشري فيما يلي:
ِ سوف تؤثر على أداء
تحديد مخاطر التحيزات البشرية غير المقصودة في تصميم الذكاء االصطناعي وإدارتها.
يتم اختبار الذكاء االصطناعي بشكل فعال للتأكد من أن النتائج تعكس الهدف األصلي.
يمكن أن تكون تقنيات الذكاء االصطناعي شفافة نظرًاا للتعقيد المحصورة فيها أص ً
ل ا.
يتم استخدام مخرجات الذكاء االصطناعي بشكل قانوني وأخلقي ومسؤول.
تحيز اللوغاريتمات
وفقًا ا لتقرير من شركة ماكنزي وشركاه صدر مؤخرًاا ،تطبق الشركات التعلم اآللي التخاذ القرارات
التجارية بسرعة .تضع البرامج لوغاريتمات معقدة للعمل على مجموعات البيانات الكبيرة التي يتم تحديثها
بشكل متكرر .ومع ذلك ،فإن التحيز اللوغاريتمي "إن صح التعبير" هو عمل محفوف بالمخاطر ،ألنه يمكن
أن يضر بالهدف من التعلم اآللي إذا تم التغاضي عنه ،وتركه دون رقابة (عد إلى السيطرة على
لوغاريتمات التعلم اآللي وتحيزاتها).
globaliia.org
آراء ورؤى عالمية
الذكاء االصطناعي – الجزء الثالث
على سبيل المثال ،في تقدير االئتمان ،يتم اعتبار العميل ذو التاريخ الطويل من الحفاظ على القروض دون
االنحراف أو التأخر عن سداداها عمومًاا بأنه "ذو مخاطر متدنية" .ومع ذلك ،ما قد يكون غير ظاهر لنا هو أن هذا
ال تتضمن األهداف واألنشطة أو
العميل حافظ على الرهون العقارية ودعمها عن طريق ضرائب كبيرة الفوائد شارفت على انتهاء صلحيتها .وقد اإلجراءات ذات الصلة التي حددها
يكون االرتفاع في التخلف عن السداد وشيك الوقوع في حالة المخالفة في نموذج المخاطر اإلحصائية لمؤسسة معهد المدققين الداخليين العالمي
اإلقراض .مع الوصول إلى البيانات الصحيحة والتوجيه من قبل الخبراء المختصين ،يمكن للنماذج المتنبئة للتعلم
اآللي العثور على أنماط مخفية في البيانات وتصحيح هذه اإلرتفاعات .وعلوة على ذلك ،يمكن أن يؤدي التحيز خطة تدقيق محددة ،إال أنها أمثلة
اللوغاريتمي – خارج قرارات العمل – إلى أخطاء يمكن أن تسبب بعض المشاكل واالضطرابات الحقيقية بين ينبغي أن تكون مفيدة في تحديد
المواطنين .على سبيل المثال ،يتم استخدام خدمة صور غوغل وما شابهها لتحديد األشخاص واألشياء والمشاهد،
أهداف المشاركة أو الرقابة ،وفي
ولكن من الممكن أن يحدث خطأ فادح ،كأن تتغاضى الكاميرا علمة ما ذات طابع حساس عرقيًاا ،أو عندما يتحيّز
برنامج يًستخدم لتقييم المخاطر للتنبؤ بمجرمي المستقبل. تخطيط وتنفيذ أعمال التدقيق في
الذكاء االصطناعي.
صياغة المعنى
هناك حدود لما يمكن أن تقوم به اآلالت ،ويجب أن يكون الناس قادرين على اشتقاق معنى لمخرجات الذكاء يجب أن تتوافق التزامات التدقيق
االصطناعي .كما هو موضح في تقرير من قبل شركة ماكينزي وشركاه" ،صياغة المعنى في عصر الذكاء الذكاء االصطناعي مع معيار معهد
االصطناعي تبدأ مع تقدير ما يمكن وما ال يمكن لآلالت القيام به .قد يكون من الممكن ،على سبيل المثال ،آللة ما
أن تقدم تشخيصات أكثر دقة مما يمكن أن يقدمها شخص ما .إال أن األمر متروك للممرضين واألطباء والمعالجين المدققين الداخليين العالمي رقم
لمساعدة المرضى على فهم اآلثار وإدارة العواقب .وهذا هو الفرق بين المعرفة والمعنى" .ووفقًا ا للتقرير ،فإن :2200تخطيط المشاركة .وينبغي
المهارات الصعبة كصياغة شيفرات البرامج والتحليلت وعلوم البيانات تعتبر أمور حاسمة بالنسبة للذكاء
دائماً ا تصميم خطط تدقيق الذكاء
االصطناعي ،كما هو الحال مع المهارات الناعمة كالتعاون والتعاطف واشتقاق المعاني (انظر مكينزي الموسمية
.)61-56 االصطناعي وأهداف وإجراءات
التدقيق الداخلي خصيصاً ا لتلبية
األدهدا واألشنشطة أو اإلجراءات ذات الصلة باألخالقيات
احتياجات المؤسسة.
األشنشطة أو اإلجراءات دهد /أدهدا المهام أو الضوابط
استعراض النتائج المقصودة ألنشطة الذكاء
االصطناعى (األهداف االستراتيجية) ومقارنتها بالنتائج تقديم توكيد أن نتائج أنشطة الذكاء االصطناعي
الفعلية .إذا كان هناك اختلف ،يجب تحديد ما إذا كان للمؤسسة خالية من التحيزات غير المقصودة.
التحيز هو السبب.
مراجعة مخرجات الذكاء االصطناعي والمعنى الذي يمكن للمؤسسة "صياغة معنى" من مخرجات الذكاء
تمت صياغته من هذه المخرجات. االصطناعي.
الصندوق األسود
وفقا لقاموس ميريام-وبستر القاموس المتواجد على شبكة اإلنترنت ،الصندوق األسود هو "جهاز إلكتروني
عادة ما يكون معقدًاا وآلياته الداخلية عادة ما تكون مخفية عن أو غامضة للمستخدم ،وبصورة أشمل؛ أي
جهاز لديه وظائف أو آليات داخلية غامضة أو غير معروفة" .مع تقدم المؤسسات في تنفيذ تقنيات النوع
الثالث والرابع من الذكاء االصطناعي – االنتفاع من اآلالت أو المنصات التي يمكن أن تتعلم من تلقاء
نفسها أو أن تتواصل مع بعضها البعض –تصبح آلية عمل اللوغاريتمات أقل شفافية أو فهمًا ا .وسيصبح
عامل الصندوق األسود تحديًا ا أكبر باستمرار حيث تصبح أنشطة الذكاء االصطناعي للمؤسسة أكثر تطورًاا.
globaliia.org
آراء ورؤى عالمية
الذكاء االصطناعي – الجزء الثالث
الحوكمة
تشير حوكمة الذكاء االصطناعي إلى الهياكل والعمليات واإلجراءات المنفذة لتوجيه وإدارة ومراقبة أنشطة
الذكاء االصطناعي للمؤسسة .ويتفاوت هيكل الحوكمة والشكليات بنا اًء على الخصائص المحددة للمؤسسة.
إدارة الذكاء االصطناعي:
وفيما يتعلق بمكون الحوكمة ،الجزء الثاني من هذه السلسلة ،تناول إطار معهد المدققين الداخليين العالمي
لتدقيق الذكاء االصطناعي :التطبيقات العملية الجزء أ ،المساءلة والمسؤولية القانونية والرقابة؛ االمتثال
المطلوب؛ تصميم البيانات والبنية التحتية؛ وجودة البيانات .تتناول هذه الوثيقة قياس األداء.
قياس األداء
يتمتع التدقيق الداخلي بأهمية حيوية في قدرة المؤسسة على قياس أداء مبادراتها المتعلقة بالذكاء االصطناعي .ففي
مرحلة التخطيط ،يمكن للتدقيق الداخلي أن يقدم المشورة بشأن كيفية وضع مقاييس توفر لإلدارة والمجلس
الا عن إنشاء أو
معلومات كافية وموثوقة وذات صلة ومفيدة .ومع ذلك ،يجب أن ال يكون التدقيق الداخلي مسؤو ً
امتلك مقاييس أداء الذكاء االصطناعي .في المؤسسات التي تم فيها تنفيذ أو تبني الذكاء االصطناعي ،يجب أن
يوفر التدقيق الداخلي توكيدًاا على خط الدفاع األول من عناصر الرقابة الدفاعية والخط الثاني من الرقابة الدفاعية
المتعلقة بالذكاء االصطناعي .ربما ال توجد طريقة أفضل إلظهار كفاءة التدقيق الداخلي في الذكاء االصطناعي
من استخدام تقنيات الذكاء االصطناعي ،مثل أتمتة العمليات الروبوتية لتدقيق الذكاء االصطناعي.
globaliia.org
آراء ورؤى عالمية
الذكاء االصطناعي – الجزء الثالث
تسهيل جلسات العمل للمسؤولين عن إنشاء مقاييس الذكاء االصطناعي .شنقل أهمية ومعنى المصطلحات معلومات كافية تقديم المشورة بشأن كيفية إنشاء مقاييس الذكاء
وموثوق بها وذات صلة ،ومفيدة. االصطناعي.
تطبيق تقنيات اختبار اإلجهاد التي تستخدمها الصناعة المصرفية لتحديد كيفية أداء أنشطة الذكاء االصطناعي في ظل
اختبار إجهاد ثغرات الذكاء االصطناعي.
السيناريوهات المتطرفة.
استنتاجات ختامية
ال يمكن ترك مهنة التدقيق الداخلي وراء ما قد يصبح الخط الحدودي الرقمي الجديد – الذكاء االصطناعي.
للتحضير ،يجب على المدققين الداخليين فهم أساسيات الذكاء االصطناعي ،واألدوار التي وينبغي على
ويمكن للتدقيق الداخلي أن يؤديها ،ومخاطر وفرص الذكاء االصطناعي.
وسواء تم تطوير تقنيات الذكاء االصطناعي داخل المؤسسة من خلل تقنيات تيسيرية أو عن طريق طرف
ثالث ،ينبغي إعداد التدقيق الداخلي لتقديم المشورة للمجلس واإلدارة العليا والتنسيق مع خطوط الدفاع
األولى والثانية ،وتقديم توكيد بشأن إدارة مخاطر ،وحوكمة و الذكاء االصطناعي ،والضوابط الرقابية
المتعلقة به .ولمواجهة هذه التحديات ،يجب على المدققين الداخليين االستفادة من إطار معهد المدققين
الداخليين العالمي لتدقيق الذكاء االصطناعي.
إخالء مسؤولية
إن اآلراء المعرب عنها في "آراء ورؤى عالمية" ال تمثل بالضرورة آراء األفراد المساهمين أو أراء أصحاب العمل المساهمين.
حقوق النشر
حقوق الطبع والنشر © 2017لمعهد المدققين الداخليين العالمي (" )"The IIAمحفوظة بدقة .أي استنساخ السم المعهد أو رمزه أو العلمة التجارية عليه أن يحمل العلمة الفيدرالية
األمريكية المسجلة ® .ال يجوز نسخ أي جزء من هذه المواد بأي شكل من األشكال دون الحصول على إذن خطي من المعهد.
globaliia.org
globaliia.org