‫شکیبا شریفی ‪401440232‬‬

‫‪Andreas Holzinger1 | Georg Langs2 | Helmut Denk3 | Kurt Zatloukal3 | Heimo‬‬

‫‪Müller1,3‬‬
‫‪1Institute for Medical Informatics, Statistics and Documentation, Medical‬‬
‫‪University Graz, Graz, Austria‬‬
‫‪2 Department of Biomedical Imaging and Imageguided Therapy, Computational‬‬
‫اتریش ‪Imaging Research Lab, Medical University of Vienna, Vienna, Austria‬‬
‫‪3 Institute of Pathology, Medical University Graz, Graz, Austria‬‬
‫‪Andreas Holzinger , Institute for Medical‬‬ ‫‪Informatics, Statistics and‬‬
‫‪Documentation, Medical University Graz,‬‬ ‫‪A-8036, Austria. Email:‬‬
‫‪andreas.holzinger@medunigraz.at‬‬
‫چکیده ‪:‬‬
‫هوش مصنوعی قابل توضیح (‪ )AI‬در پزشکی توجه زیادی را به خود جلب کرده است‪.‬‬
‫از نظر فنی‪ ،‬مش‪55‬کل توض‪55‬یح‌پذیری ب‪55‬ه ق‪55‬دمت خ‪55‬ود ه‪55‬وش مص‪55‬نوعی اس‪55‬ت و ه‪55‬وش مص‪55‬نوعی کالس‪55‬یک‬
‫رویکردهای قابل ردیابی قابل درک را نشان می‌دهد‪.‬‬
‫با این حال‪ ،‬ضعف آنه‪5‬ا در برخ‪5‬ورد ب‪5‬ا ع‪5‬دم قطعیت ه‪5‬ای دنی‪5‬ای واقعی ب‪5‬ود‪ .‬از طری‪5‬ق مع‪5‬رفی ی‪5‬ادگیری‬
‫احتمالی‪ ،‬برنامه های کاربردی به طور فزاینده ای موفق شدند‪ ،‬اما ب‪55‬ه ط‪55‬ور فزاین‪55‬ده ای مبهم ش‪55‬دند‪ .‬ه‪55‬وش‬
‫مصنوعی توضیح‌پذیر با اجرای شفافیت و قابلیت ردی‪55‬ابی روش‌ه‪55‬ای آم‪55‬اری ی‪55‬ادگیری ماش‪55‬ین جعب‪55‬ه س‪55‬یاه‪،‬‬
‫به‌ویژه یادگیری عمیق (‪ )DL‬سر و کار دارد‪.‬‬
‫ما استدالل می کنیم که نیاز بیشتربه هوش مصنوعی قابل توضیح وجود دارد‪ .‬برای رس‪55‬یدن ب‪55‬ه س‪55‬طحی از‬
‫پزشکی قابل توضیح‪ ،‬ما نیاز به علیت داریم‪.‬‬
‫هم‪55‬ان‌طور ک‪55‬ه توض‪55‬یح پ‪55‬ذیری ش‪55‬امل ان‪55‬دازه‌گیری‌هایی ب‪55‬رای کیفیت اس‪55‬تفاده اس‪55‬ت‪ ،.‬علیت‌پ‪55‬ذیری ش‪55‬امل‬
‫اندازه‌گیری‌هایی برای کیفیت توضیحات است‪ .‬در این مقاله‪ ،‬ما برخی از تعاریف الزم را ب‪55‬رای تم‪55‬ایز بین‬
‫توضیح‌پذیری و علت‌پذیری و ‪ ML‬و ‪ DL‬را ارائه می‌کنیم‪ .‬سهم اصلی این مقال‪5‬ه مفه‪5‬وم علیت اس‪5‬ت ک‪5‬ه ب‪5‬ا‬
‫تبیین پذیری متمایز می شود زیرا علیت ویژگی یک شخص است‪ ،‬در حالی که توضیح پذیری ویژگی ی‪55‬ک‬
‫سیستم است‪.‬‬
 ‫‪ | 1‬مقدمه و انگیزه‬
‫هوش مصنوعی (‪ )AI‬شاید قدیمی‌ترین رشته علوم کامپیوتر و بسیار گسترده باشد که با تمام جنبه‌های تقلی‪55‬د‬
‫از عملکردهای شناختی برای حل مسئله در دنیای واقعی و ساختن سیستم‌هایی که مانند م‪5‬ردم ی‪5‬اد می‌گیرن‪5‬د‬
‫و فکر می‌کنند‪ ،‬سروکار دارد‪ .‬بنابراین‪ ،‬اغلب به آن هوش ماشینی می گوین‪55‬د (پ‪55‬ول‪ ،‬م‪55‬ک ورث‪ ،‬و گوب‪55‬ل‪،‬‬
‫‪ ) 1998‬تا آن را در مقابل هوش انسانی قرار دهد (راسل و نورویگ‪ .)2010 ،‬این رشته حول محور تالقی‬
‫علوم شناختی و عل‪55‬وم ک‪55‬امپیوتر می چرخی‪55‬د (تننب‪55‬ام‪ ،‬کمپ‪ ،‬گ‪55‬ریفیث و گ‪55‬ودمن‪ .)2011 ،‬ه‪55‬وش مص‪55‬نوعی‬
‫اکنون به دلیل موفقیت های عملی در یادگیری ماشینی (‪ )ML‬توجه زیادی را به خ‪55‬ود جلب ک‪55‬رده اس‪55‬ت‪ .‬در‬
‫هوش مصنوعی همیشه یک پیوند قوی با قابلیت توض‪55‬یح وج‪55‬ود داش‪55‬ت‪ ،‬و نمون‪55‬ه اولی‪55‬ه آن مش‪55‬اوره گیرن‪55‬ده‬
‫است که توسط مک کارتی در سال ‪ 1958‬به عنوان "برنامه ای با عق‪5‬ل س‪5‬لیم" پیش‪5‬نهاد ش‪5‬د (م‪5‬ک ک‪5‬ارتی‪،‬‬
‫‪ .)1960‬احتماًال این اولین باری بود که توانایی های استدالل عقل سلیم را به عنوان کلی‪55‬د ه‪55‬وش مص‪55‬نوعی‬
‫پیشنهاد می کرد‪ .‬تحقیقات اخیر بیش از پیش بر این نکته تأکید می‌کند که سیس‪55‬تم‌های ه‪55‬وش مص‪55‬نوعی بای‪55‬د‬
‫بتوانند مدل‌های علی جهان را بسازند که از توضیح و درک پش‪55‬تیبانی می‌کنن‪55‬د‪ ،‬ن‪55‬ه اینک‪55‬ه ص‪55‬رفًا مش‪55‬کالت‬
‫تشخیص الگو را حل کنند ‪.‬‬
‫‪ ML‬یک زمینه بسیار کاربردی از هوش مصنوعی با هدف توسعه نرم افزاری است که می تواند ب‪55‬ه ط‪55‬ور‬
‫خودکار از داده های قبلی برای کسب دانش از تجربه و بهبود تدریجی رفتار یادگیری خود برای پیش بی‪55‬نی‬
‫بر اس‪5‬اس داده ه‪5‬ای جدی‪5‬د ی‪5‬اد بگ‪5‬یرد ‪ .‬چالش‌ه‪5‬ای ب‪5‬زرگ در حس‌س‪5‬ازی‪ ،‬درک زمین‪5‬ه و تص‪5‬میم‌گیری در‬
‫شرایط عدم قطعیت است‪ ML .‬را می توان به عنوان نیروی کار هوش مصنوعی در نظر گرفت و در عین‬
‫حال‪ ،‬اتخاذ روش های ‪ ML‬فشرده داده را می توان در همه جا‪ ،‬در سراس‪55‬ر علم‪ ،‬مهندس‪55‬ی و تج‪55‬ارت ی‪55‬افت‬
‫که منجر به تصمیم گیری مبتنی بر شواهد بیشتر می شود ‪ .‬پیشرفت عظیم در ‪ ML‬با توسعه الگوریتم ه‪55‬ای‬
‫یادگیری آماری جدید همراه با در دسترس بودن مجموعه داده های بزرگ و محاسبات کم هزینه انجام ش‪55‬ده‬
‫است (عبادی و همکاران‪ .)2016 ،‬یکی از روش های بسیار محبوب امروزه یادگیری عمیق (‪ )DL‬است‪.‬‬
‫‪ DL‬یک خانواده از مدل‌های ‪ ML‬است که بر اس‪55‬اس ش‪55‬بکه‌های عص‪55‬بی کانولوش‪55‬نال عمی‪55‬ق و دارای س‪55‬ابقه‬
‫طوالنی است امروزه بسیار محبوب است زیرا آنها حتی در عملکرد سطح انسانی به نتایج ش‪55‬گفت انگ‪55‬یزی‬
‫دست می یابند ‪.‬‬
‫بهترین مث‪55‬ال عملی‪ ،‬ک‪55‬ار اخ‪55‬یر گ‪55‬روه ‪ Thrun‬اس‪55‬ت ک‪55‬ه در آن آنه‪55‬ا ب‪55‬ا رویک‪55‬رد ‪ DL‬عملک‪55‬ردی براب‪55‬ر ب‪55‬ا‬
‫پزشکان به دست آوردند‪ ،‬و نشان دادند که چنین رویکردهایی قادر به طبقه بندی سرطان پوست ب‪55‬ا س‪55‬طحی‬
‫از شایستگی قابل مقایسه با متخصصان پوست هستند (استوا و همکاران ‪.)2017 ،.‬‬
‫مثال دیگر نتایج امیدوارکننده شناسایی رتینوپاتی دیابتی و بیماری های چشمی مرتبط است‪ .‬همه اینها نمونه‬
‫های بسیار خوبی از پیشرفت و سودمندی هوش مصنوعی هس‪5‬تند‪ ،‬ام‪5‬ا ح‪5‬تی برجس‪5‬ته ت‪5‬رین طرف‪5‬داران این‬
‫رویکردهای (خودکار) اخیرًا تأکید می کنند که دستیابی به هوش قابل استفاده دشوار است‪ ،‬زیرا ما ن‪55‬ه تنه‪55‬ا‬
‫نیاز به یادگیری از داده های قبلی‪ ،‬برای استخراج دانش داریم‪ .‬برای تعمیم‪ ،‬و مبارزه ب‪55‬ا نف‪55‬رین ابع‪55‬اد‪ ،‬ام‪55‬ا‬
‫برای تفکیک عوامل توضیحی زیربنایی داده ها به منظور درک زمینه در یک حوزه کاربردی ‪ ،‬ج‪55‬ایی ک‪55‬ه‬
‫باید با یک پزشک قرار مالقات گذاشت‪- .‬حلقه ضروری است (هولزینگر‪)2016 ،‬‬
‫پزشکی به عنوان حوزه کاربردی یکی از بزرگترین چ‪55‬الش ه‪55‬ای ‪ AI/ML/DL‬اس‪55‬ت‪ .‬در پش‪55‬تیبانی تص‪55‬میم‬
‫پزشکی‪ ،‬ما با مجموعه داده های احتمالی‪ ،‬ناشناخته‪ ،‬ن‪5‬اقص‪ ،‬نامتع‪5‬ادل‪ ،‬ن‪5‬اهمگن‪ ،‬پ‪5‬ر س‪5‬ر و ص‪55‬دا‪ ،‬ک‪5‬ثیف‪،‬‬
‫اش‪55‬تباه‪ ،‬نادرس‪55‬ت و گمش‪55‬ده در فض‪55‬اهای خودس‪55‬رانه ب‪55‬ا ابع‪55‬اد ب‪55‬اال مواج‪55‬ه هس‪55‬تیم (ه‪55‬ولزینگر‪ ،‬دهم‪55‬ر‪ ،‬و‬
‫ژوریسیکا‪( .)2014 ،‬لی و هولزینگر‪ .)2016 ،‬اغلب ما به سادگی فاقد مجموع‪55‬ه داده ه‪55‬ای ب‪55‬زرگ هس‪55‬تیم‬
‫(هولزینگر‪ .)2016 ،‬یک هدف بزرگ پزشکی آینده‪ ،‬مدل‌سازی پیچیدگی بیماران ب‪55‬رای تط‪55‬بیق تص‪55‬میمات‬
‫پزشکی‪ ،‬شیوه‌های بهداشتی و درمان‌ها ب‪55‬رای ه‪55‬ر بیم‪55‬ار اس‪55‬ت (ه‪55‬ولزینگر‪ .)2014 ،‬این ام‪55‬ر ب‪55‬ه وی‪55‬ژه در‬
‫ادغام‪ ،‬ادغام و نقشه برداری داده های مختلف توزیع شده و ناهمگن تا تجزیه و تحلیل بصری این داده های‬
‫ناهمگن چالش هایی را ایجاد می کند (‪ .)2014‬در نتیج‪55‬ه‪ ،‬توض‪55‬یح توان‪55‬ایی‪ AI-‬در زمین‪55‬ه پزش‪55‬کی بای‪55‬د در‬
‫نظر گرفته شود که داده های متنوع ممکن است به یک نتیجه مرتب‪55‬ط کم‪55‬ک کن‪55‬د‪ .‬این مس‪55‬تلزم آن اس‪55‬ت ک‪55‬ه‬
‫متخصصان پزشکی باید این امکان را داشته باشند که بفهمند چگونه و چرا یک تص‪5‬میم ماش‪5‬ین گرفت‪5‬ه ش‪5‬ده‬
‫است (هولزینگر‪ ،‬بیمان‪ ،‬پتیچیس و کل‪.)2017 ،‬‬
‫توضیح پذیری حداقل به اندازه خود هوش مصنوعی قدیمی است و بیشتر مشکلی است ک‪55‬ه توس‪55‬ط آن ایج‪55‬اد‬
‫شده است‪ .‬در روزهای پیشروی هوش مصنوعی(نیول‪ ،‬شاو و سایمون‪.)1958 ،‬‬

‫روش های استدالل منطقی و نمادین ب‪55‬ود‪ .‬این رویکرده‪55‬ا م‪55‬وفقیت آم‪55‬یز بودن‪55‬د‪ ،‬ام‪55‬ا فق‪55‬ط در فض‪55‬ای دامن‪55‬ه‬
‫بسیار محدود و با کاربرد عملی بسیار محدود‪ .‬یک مث‪55‬ال معم‪55‬ولی ک‪55‬ه ی‪55‬ک سیس‪55‬تم خ‪55‬بره ب‪55‬ود ک‪55‬ه در ‪Lisp‬‬
‫برای شناسایی باکتری‌های ایجادکنن‪55‬ده عفونت‌ه‪55‬ای ش‪55‬دید و توص‪55‬یه آنتی‌بیوتیک‌ه‪55‬ا توس‪55‬عه ی‪55‬افت‪MYCIN .‬‬
‫هرگز در روال بالینی استفاده نشد‪ ،‬شاید ب‪5‬ه دلی‪5‬ل وی‪5‬ژگی مس‪5‬تقل آن و تالش زی‪5‬اد در پایگ‪5‬اه دانش خ‪5‬ود را‬
‫حف‪55‬ظ کن‪55‬د‪ .‬ب‪55‬ا این ح‪55‬ال‪ ،‬این سیس‪55‬تم‌های ه‪55‬وش مص‪55‬نوعی اولی‪55‬ه ب‪55‬ا انج‪55‬ام ن‪55‬وعی اس‪55‬تنتاج منطقی اس‪55‬تدالل‬
‫می‌کردند‪.‬‬
‫نمادهای قابل خواندن توسط انسان و توانس‪55‬تند ردپ‪55‬ایی از مراح‪55‬ل اس‪55‬تنتاج خ‪55‬ود را ارائ‪55‬ه دهن‪55‬د‪ .‬این مبن‪55‬ای‬
‫توضیح بود وبرخی از کاره‪55‬ای مرتب‪55‬ط اولی‪55‬ه وج‪55‬ود دارد‪ ،‬ب‪55‬رای مث‪55‬ال‪( ،‬جانس‪55‬ون‪1994 ،‬؛ الک‪55‬او و دی‪55‬ز‪،‬‬
‫‪2002‬؛ سوارتوت‪ ،‬پاریس‪ ،‬و مور)‪ .‬در اینجا الزم به ذکر است که سه نوع توضیح وجود دارد‪:‬‬
‫(‪ )1‬تبیین همتا به همتا که انجام می شود‪.‬در میان پزشکان در طول گزارش پزشکی؛‬
‫(‪ )2‬توضیح آموزشی همانطور که بین معلمان و دانش آموزان انجام می شود‪.‬‬
‫(‪ )3‬توضیح علمی به معنای دقیق نظریه علم (پوپر‪ .)1935 ،‬تاکید می کنیم که منظ‪5‬ور م‪5‬ا در این مقال‪5‬ه در‬
‫پزشکی تقاضای فزاینده ای برای رویکردهای هوش مصنوعی وجود دارد که نه تنها عملکرد خوبی دارند‪،‬‬
‫بلکه قابل اعتماد‪ ،‬شفاف‪ ،‬قابل تفسیر و قابل توضیح برای ی‪55‬ک متخص‪55‬ص انس‪55‬انی هس‪55‬تند‪ .‬در پزش‪55‬کی‪ ،‬ب‪55‬ه‬
‫عنوان مثال‪ ،‬جمالت زبان طبیعی ‪ .‬روش‌ها و مدل‌ها برای بازسازی فرآیند تصمیم‌گیری ماشین‪ ،‬بازتولید و‬
‫درک ه‪55‬ر دو فرآین‪55‬د ی‪55‬ادگیری و اس‪55‬تخراج دانش ض‪55‬روری هس‪55‬تند‪ .‬این مهم اس‪55‬ت‪ ،‬زی‪55‬را ب‪55‬رای حم‪55‬ایت از‬
‫تصمیم گیری‪ ،‬درک علیت بازنمایی های آموخته شده ضروری است (گرشمن‪ ،‬هورویتز‪ ،‬و تننبام‪2015 ،‬؛‬
‫پرل‪2009 ،‬؛ پیترز‪ ،‬یانزینگ‪ ،‬و شولکوپف‪.)2017 ،‬‬
‫عالوه بر این‪ ،‬توضیح‌پذیری هوش مصنوعی می‌تواند به افزایش اعتماد متخصصان پزشکی به سیس‪55‬تم‌های‬
‫هوش مصنوعی آینده کمک کند‪ .‬تحقیق برای ساختن سیستم‌های هوش مصنوعی قابل توضیح برای کاربرد‬
‫در پزشکی مستلزم حفظ سطح باالیی از عملکرد یادگیری برای طیف وسیعی از تکنیک‌های تعام‪55‬ل ‪ ML‬و‬
‫انسان و رایانه است‪ .‬تنش ذاتی بین عملکرد ‪( ML‬دقت پیش‌بینی‌کننده) و قابلیت توضیح وجود دارد‪.‬‬

‫اغلب روش‌هایی که بهترین عملکرد را دارند مانند ‪ DL‬کمترین شفافیت را دارند و روش‌ه‪55‬ایی ک‪55‬ه توض‪55‬یح‬
‫واضحی ارائه می‌دهند (به عنوان مثال‪ ،‬درخت‌های تصمیم) دقت کمتری دارند (بولونیا و هایاشی‪.)2017 ،‬‬
‫در حال حاضر‪ ،‬توضیحاتی در مورد اینکه چرا پیش‌بینی‌ها انجام می‌شوند‪ ،‬یا اینکه چگونه پارامترهای‬
‫مدل مکانیسم‌های بیولوژیکی زیربنایی را به دست می‌آورند‪ ،‬گریزان است‪ .‬محدودیت دیگر این است که‬
‫انسان ها به ارزیابی بصری یا بررسی توضیحات برای تعداد (زیادی) بدیهیات محدود می شوند‪ .‬این منجر‬
‫به یکی از سؤاالت اصلی می شود‪ :‬آیا می توانیم ویژگی ها را بدون آزمایش ‪ -‬مستقیمًا از مشاهدات خالص‬
‫استنباط کنیم؟ (پیترز و همکاران‪.)2017 ،‬‬
‫درک‪ ،‬تفسیر یا توضیح اغلب به صورت مترادف در زمینه هوش مصنوعی قابل توضیح استفاده می شود‬
‫(دوران‪ ،‬شولز‪ ،‬و بسولد‪ ،)2017 ،‬و تکنیک های مختلف تفسیر در گذشته به کار رفته است‪ .‬یک بحث‬
‫مفید در مورد "افسانه تفسیرپذیری مدل" توسط لیپتون (‪ )2016‬وجود دارد‪ .‬در زمینه هوش مصنوعی‬
‫توضیح پذیر‪ ،‬اصطالح "درک" معموًال به معنای درک عملکردی مدل است‪ ،‬برخالف درک الگوریتمی‬
‫سطح پایین از آن‪ ،‬یعنی تالش برای توصیف رفتار جعبه سیاه مدل‪ ،‬بدون تالش برای عملکرد درونی یا‬
‫بازنمایی های درونی آن را روشن کند‪ .‬مونتاون‪ ،‬سامک و مولر (‪ )2017‬در کار خود بین تفسیر تفاوت‬
‫قائل می شوند که آن را به عنوان نگاشت یک مفهوم انتزاعی در حوزه ای تعریف می کنند که متخصص‬
‫انسانی می تواند درک و درک کند‪ .‬و توضیح‪ ،‬که آنها به عنوان مجموعه‌ای از ویژگی‌های حوزه‬
‫تفسیرپذیر تعریف می‌کنند که به یک مثال داده شده برای ایجاد یک تصمیم کمک کرده است‪.‬‬
‫ما استدالل می کنیم که در پزشکی‪ ،‬هوش مصنوعی قابل توضیح برای بسیاری از اهداف از جمله آموزش‬
‫پزشکی‪ ،‬تحقیقات و تصمیم گیری بالینی (هولزینگر‪ .)2018 ،‬اگر متخصصان پزشکی با سیستم های‬
‫هوش مصنوعی پیشرفته تکمیل شوند و در در برخی موارد‪ ،‬سیستم‌های هوش مصنوعی آینده حتی نقش‬
‫مهمی در فرآیند تصمیم‌گیری ایفا می‌کنند‪ ،‬متخصصان انسانی همچنان باید آن را داشته باشند‪.‬‬

‫به معنی درک و ردیابی مجدد فرآیند تصمیم گیری ماشین بر حسب تقاضا است‪ .‬در عین حال‪ ،‬جالب است‬
‫بدانید که در حالی که اغلب تصور می شود انسان ها همیشه قادر به توضیح تصمیمات خود هستند‪ ،‬اغلب‬
‫اینطور نیست! گاهی کارشناسان قادر به ارائه توضیحی بر اساس ناهمگونی های مختلف نیستند و منابع‬
‫گسترده ای از اطالعات مختلف‪ .‬در نتیجه‪ ،‬هوش مصنوعی قابل توضیح نیازمند اعتماد‪ ،‬ایمنی‪ ،‬امنیت‪،‬‬
‫حریم خصوصی‪ ،‬اخالق‪ ،‬انصاف و اعتماد (‪ )2016‬و قابلیت استفاده (‪ )2005 ,‬و تعامل انسان و هوش‬
‫مصنوعی را به ارمغان می آورد‪ .‬به یک تمرکز جدید و مهم همه این جنبه ها با هم برای کاربرد در آن‬
‫بسیار مهم هستند ‪.‬پزشکی به طور کلی‪ ،‬و برای پزشکی شخصی آینده‪ ،‬به ویژه (هامبورگ و کالینز‪،‬‬
‫‪.)2010‬‬
‫در عین حال‪ ،‬جالب است بدانید که در حالی که اغلب تصور می شود انسان ها همیشه قادر به توضیح‬
‫تصمیمات خود هستند‪ ،‬اغلب اینطور نیست! گاهی کارشناسان قادر به ارائه توضیحی بر اساس ناهمگونی‬
‫های مختلف نیستند و منابع گسترده ای از اطالعات مختلف‪ .‬در نتیجه‪ ،‬هوش مصنوعی قابل توضیح‬
‫نیازمند اعتماد‪ ،‬ایمنی‪ ،‬امنیت‪ ،‬حریم خصوصی‪ ،‬اخالق‪ ،‬انصاف و اعتماد و قابلیت استفاده و تعامل انسان‬
‫و هوش مصنوعی را به ارمغان می آورد‪ .‬به یک تمرکز جدید و مهم‪ .‬همه این جنبه ها با هم برای کاربرد‬
‫در آن بسیار مهم هستند‬
 ‫‪ | 2‬از توضیح پذیری تا علیت‬
‫در یک دنیای ایده آل‪ ،‬هر دو گزاره انسان و ماشین یکسان هستند‪ ،‬و با حقیقت اصلی که برای ماشین ها و‬
‫انسان ها به طور یکسان تعریف می شود‪ ،‬مطابقت دارند‪ .‬اما در دنیای واقعی ما با دو مشکل روبرو‬
‫هستیم‪:‬‬
‫(‪ )1‬حقیقت اصلی را نمی توان همیشه به خوبی تعریف کرد‪ ،‬به ویژه در هنگام تشخیص پزشکی‪.‬‬
‫(‪ )۲‬مدل‌های انسانی (علمی) اغلب بر اساس علیت به‌عنوان هدف نهایی برای درک مکانیسم‌های زیربنایی‬
‫هستند‪ ،‬و در حالی که همبستگی به‌عنوان مبنایی برای تصمیم‌گیری پذیرفته می‌شود‪ ،‬به عنوان یک مرحله‬
‫میانی در نظر گرفته می‌شود‪.‬‬

‫در مقابل‪ ،‬الگوریتم‌های موفق ‪ ML‬امروزی معموًال مبتنی بر مدل‌های احتمالی هستند و تنها مبنای خامی‬
‫برای ایجاد مدل‌های عّلی بیشتر فراهم می‌کنند‪ .‬بنابراین هنگام بحث در مورد توضیح پذیری یک دستور‬
‫ماشین‪ ،‬ما پیشنهاد می کنیم بین آنها تمایز قائل شویم‪.‬‬
‫توضیح پذیری‬
‫از لحاظ فنی‪ ،‬بخش‌های مرتبط با تصمیم را از نمایش‌های استفاده‌شده از الگوریتم‌ها و بخش‌ه‪55‬ای فع‪55‬ال در‬
‫مدل الگوریتمی برجسته می‌کند‪ ،‬که یا به دقت مدل در مجموعه آموزشی کمک می‌کند‪ ،‬یا به ی‪55‬ک پیش‌بی‪55‬نی‬
‫خاص برای یک مشاهده خاص کمک می‌کند‪ .‬به یک مدل آشکار انسانی اشاره نمی کند‪.‬‬
‫علیت‬
‫به عنوان میزانی که توضیح یک بیانیه برای یک متخصص انس‪55‬انی ب‪55‬ه س‪55‬طح مشخص‪55‬ی از درک عّلی ب‪55‬ا‬
‫اثربخشی‪ ،‬کارایی و رضایت در زمینه استفاده مشخص می‌رسد‪.‬‬
‫از آنجایی که علیت بر حسب اثربخشی‪ ،‬کارایی‪ ،‬رضایت مرتب‪55‬ط ب‪55‬ا درک علی و ش‪55‬فافیت آن ب‪55‬رای ک‪55‬اربر‬
‫سنجیده می‌شود‪ ،‬به یک مدل قاب‪55‬ل فهم انس‪55‬انی اش‪55‬اره دارد‪ .‬این همیش‪55‬ه ب‪55‬رای توض‪55‬یح ی‪55‬ک گ‪55‬زاره انس‪55‬انی‬
‫ممکن است‪ ،‬زیرا توضیح به خودی خود مربوط به یک مدل انسانی تعری‪55‬ف می ش‪55‬ود‪ .‬ب‪55‬ا این ح‪55‬ال‪ ،‬ب‪55‬رای‬
‫اندازه‌گیری علت‌پذیری توضیح یک دستور ماشین‪ ،‬این باید بر اساس یک م‪55‬دل عّلی باش‪55‬د‪ ،‬ک‪55‬ه ب‪55‬رای اک‪55‬ثر‬
‫الگوریتم‌های ‪ ML‬صدق نمی‌کند‪ ،‬یا باید یک نگاشت بین هر دو تعریف شود‪.‬‬
‫در اینجا‪ ،‬ما باید بین یک مدل قابل توضیح ("هوش مصنوعی قاب‪55‬ل توض‪55‬یح") و ی‪55‬ک راب‪55‬ط توض‪55‬یحی ک‪55‬ه‬
‫باعث می شود تمایز قائل شویم‪.‬‬
‫نتایج به دست آمده در مدل قابل توضیح نه تنها قابل استفاده است‪ ،‬بلکه برای متخصص نیز مفی‪55‬د اس‪55‬ت‪ .‬ب‪55‬ه‬
‫عنوان معیاری برای قابلیت استفاده از چنین‬

‫رابط تعامل انسان و هوش مصنوعی ما پیشنهاد می کنیم از اصطالح علیت استفاده کنیم ‪.‬‬
‫اصطالح هوش مصنوعی در واقع برای مهندسی تاسف بار اس‪55‬ت‪ ،‬زی‪55‬را پدی‪55‬ده ه‪55‬وش بس‪55‬یار دش‪55‬وار اس‪55‬ت‬
‫تعریف می کند و به مجموعه ای از عوامل مختل‪55‬ف وابس‪55‬ته اس‪55‬ت‪ .‬بن‪55‬ابراین‪ ،‬م‪55‬ا در اینج‪55‬ا خ‪55‬ود را فق‪55‬ط ب‪55‬ه‬
‫حقایق صریح مرتبط محدود می کنیم‪.‬‬
‫توضیح پذیری‬
‫درک تنها شناخت‪ ،‬درک و بازتولید نیست (محرک ‪ -‬پاسخ در سطح فیزیولوژیکی) و ن‪55‬ه تنه‪55‬ا درک محت‪55‬وا‬
‫و بازنمایی صرف از حقایق‪ ،‬اما درک فک‪5‬ری از زمین‪5‬ه ای ک‪5‬ه در آن این حق‪5‬ایق ب‪5‬ه نظ‪5‬ر می رس‪5‬د‪ .‬بلک‪5‬ه‬
‫درک را می توان پلی بین ادراک و استدالل دانست‪ .‬از گ‪55‬رفتن زمین‪55‬ه‪ ،‬ب‪55‬دون ب‪55‬دون ش‪55‬ک یکی از ش‪55‬اخص‬
‫های مهم هوش‪ ،‬هوش مصنوعی پیشرفته فعلی هنوز مایل ها دورتر است‪ .‬از سوی دیگر‪ ،‬مردم هس‪55‬تند ب‪55‬ه‬
‫خوبی می تواند فورًا زمینه را به تصویر بکشد و تعمیم های بسیار خوبی را از نقاط داده بس‪5‬یار کمی انج‪5‬ام‬
‫دهد‪.‬‬
‫تبیین (تفسیر) به معنای ارائه علل پدیده های مشاهده شده ب‪55‬ه ش‪55‬یوه ای قاب‪55‬ل فهم از طری‪55‬ق توص‪55‬یف زب‪55‬انی‬
‫روابط منطقی و عّلی آن است‪ .‬در نظریه علم‪ ،‬بر اساس مدل فرضی ‪ -‬قیاسی کارل پوپر‪ ،‬تبیین ه‪55‬ای عّلی‪،‬‬
‫شالوده علم هستند تا حقایق را از ق‪55‬وانین و ش‪55‬رایط ب‪55‬ه ص‪55‬ورت قیاس‪55‬ی اس‪55‬تخراج کنن‪55‬د‪ .‬در نتیج‪55‬ه‪ ،‬علیت و‬
‫استدالل علی یک حوزه بسیار مهم برای هوش مصنوعی قابل توضیح است‪ .‬درک و توضیح پیش نیازه‪55‬ای‬
‫قابل ردیابی است‪ .‬این سؤال همچنان باز است‪" :‬اصوًال چه چیزی برای یک انسان قابل درک است؟"‪.‬‬
‫داده ها‪ ،‬اشیا یا هر گونه نمایش گرافیکی ≤‪ R3‬به طور مستقیم قابل درک است‪ ،‬بنابراین ب‪55‬رای انس‪55‬ان قاب‪55‬ل‬
‫توضیح اس‪5‬ت‪ .‬مثال‪ ،‬تص‪5‬اویر (آرایه‌ه‪5‬ای پیکس‪5‬ل‪ ،‬ح‪5‬روف‪ ،‬تواب‪5‬ع همبس‪5‬تگی‪ ،‬نموداره‪5‬ا‪ ،‬پیش‌بینی‌ه‪5‬ای دو‬
‫بعدی‪/‬سه بعدی و غیره‪ ،‬یا متن (توالی زبان طبیعی)‪.‬‬
‫انسان ها قادرند داده ها را به عنوان تصاویر یا کلمات درک کنند و آن ها را به عنوان اطالعات در مفه‪55‬وم‬
‫فیزیولوژیکی پردازش کنند‪ ،‬اطالعات استخراج شده را به صورت شناختی ب‪5‬ا رج‪5‬وع ب‪5‬ه دانش ذه‪5‬نی قبلی‬
‫خود تفسیر کنند (انسان ها دانش قبلی زیادی دارند)‪.‬‬
‫و ادغ‪55‬ام این دانش جدی‪55‬د در فض‪55‬ای دانش ش‪55‬ناختی خ‪55‬ود‪ .‬ب‪55‬ه بی‪55‬ان دقی‪55‬ق‪ ،‬بای‪55‬د بین درک تص‪55‬اویر ط‪55‬بیعی‬
‫(تصاویر)‪ ،‬درک متن (نمادها) و درک زبان گفتاری تمایز قائل شد‪.‬‬
‫فضاهای برداری انتزاعی >‪ R3‬به طور مستقیم قابل درک نیستند‪ ،‬بنابراین برای انسان قابل توضیح نیستند‬
‫(به عنوان مثال‪ ،‬جاسازی کلمات) یا بدون سند‪ ،‬یعنی ویژگی‌های ورودی قبًال ناشناخته (مانند دنباله‌هایی از‬
‫متن با نماده‪55‬ای ناش‪55‬ناخته (مانن‪55‬د‪ ،‬چی‪55‬نی ب‪55‬رای ی‪55‬ک انگلیس‪55‬ی زب‪55‬ان)‪ .‬ی‪55‬ک مث‪55‬ال آن را نش‪55‬ان می ده‪55‬د‪ :‬در‬
‫اصطالح جاسازی کلمه ‪ ،‬کلمات و یا عبارات به بردارها اختصاص داده شده اند‪ .‬از نظر مفهومی‪ ،‬این یک‬
‫جاسازی ریاضی از یک فضا با یک است‪.‬‬
‫بعد در هر کلمه به یک فضای برداری پیوس‪55‬ته ب‪55‬ا بع‪55‬د ک‪55‬اهش یافت‪55‬ه اس‪55‬ت‪ .‬روش ه‪55‬ای تولی‪55‬د چ‪55‬نین "نقش‪55‬ه‬
‫برداری" عبارتند از‪:‬‬
‫به عنوان مثال‪ ،‬شبکه های عصبی عمیق و مدل های احتمالی با یک نمایش صریح در رابط‪5‬ه ب‪5‬ا زمین‪5‬ه ای‬
‫که در آن‬
‫کلمات ظاهر می شوند‬
‫برای جزئیات بیشتر در مورد نظریه پشت تبیین پذیری علمی‪ ،‬به اصول استدالل ابداعی مراجعه می کنیم ‪.‬‬
‫‪ | 3‬رویکردهای کلی مدل های هوش مصنوعی قابل توضیح‬
‫ما می‌توانیم دو نوع هوش مصنوعی قابل توضیح را متمایز کنیم که می‌توان آنها را با نام‌های التینی که در‬
‫قانون استفاده می‌شود (‪ )Fellmeth & Hor witz, 2009‬تش‪5‬خیص داد‪ :‬توض‪55‬یح‌پذیری پس‌ه‪5‬وایی = "(‬
‫‪ ).lat‬بعد از این"‪ ،‬که پس از رویداد مورد نظر اتفاق می‌افتد‪ .‬برای مثال‪ ،‬توضیح آنچ‪55‬ه ک‪55‬ه م‪55‬دل پیش‌بی‪55‬نی‬
‫می‌کند بر حسب آنچه که به راحتی قابل تفسیر است‪.‬‬
‫برای نشان دادن یک بردار برای نمایش قابل تفس‪55‬یر آن اس‪55‬تفاده می ش‪55‬ود (ب‪55‬ه عن‪55‬وان مث‪55‬ال‪ x ،‬ممکن اس‪55‬ت‬
‫باشدیک بردار ویژگی حاوی جاسازی کلمه‪ ،‬با ‪ x‬کیسه کلمات بودن)‪ .‬هدف شناسایی یک م‪55‬دل قاب‪55‬ل تفس‪55‬یر‬
‫است‪.‬‬
‫بیش از نمایش قابل تفسیر که به صورت محلی به طبقه بندی کنن‪5‬ده وف‪55‬ادار اس‪5‬ت‪ .‬م‪5‬دل توض‪55‬یحی ‪g: Rd0‬‬
‫است‪.‬‬
‫‪ G‬کالسی از مدل‌های بالقوه قابل تفسیر است‪ ،‬مانند مدل‌های خطی‪ ،‬درخت‌های تصمیم‌گیری یا فهرست‌های‬
‫قوانین‪ .‬با توجه به مدل ‪،g 2 G‬می توان آن را به عنوان توضیحی برای متخصص انسانی تجسم کرد ‪.‬‬
‫مثال دیگری برای یک سیس‪5‬تم پس از وق‪5‬وع‪ ،‬توض‪5‬یح جعب‪5‬ه س‪5‬یاه از طری‪5‬ق تق‪5‬ریب ه‪5‬ای ش‪5‬فاف (‪)BETA‬‬
‫است‪ ،‬یک چارچوب آگنوستیک مدل برای توضیح رفتار هر طبقه بندی کنن‪55‬ده جعب‪55‬ه س‪55‬یاه ب‪55‬ا بهین‪55‬ه س‪55‬ازی‬
‫همزمان برای وفاداری به‬
‫ب‪55‬اخ و همک‪55‬اران (‪ )2015‬ی‪55‬ک راه ح‪55‬ل کلی ب‪55‬رای مش‪55‬کل درک تص‪55‬میمات طبقه‌بن‪55‬دی ب‪55‬ا تجزی‪55‬ه پیکس‪55‬لی‬
‫طبقه‌بندی‌کنن‪55‬ده‌های غ‪55‬یرخطی ارائ‪55‬ه ک‪55‬رد ک‪55‬ه ب‪55‬ه تجس‪55‬م مش‪55‬ارکت پیکس‪55‬ل‌های منف‪55‬رد در پیش‌بینی‌ه‪55‬ای‬
‫طبقه‌بندی‌کننده‌های مبتنی بر هسته روی ویژگی‌های کیسه‌ای از کلمات و ب‪55‬رای ش‪55‬بکه‌های عص‪55‬بی چندالی‪55‬ه‬
‫اجازه می‌دهد‪.‬‬
‫سیستم های ‪ Ante-hoc‬با طراحی نسبت به رویکردهای جعبه شیشه ای قاب‪55‬ل تفس‪55‬یر هس‪55‬تند (ه‪55‬ولزینگر و‬
‫همکاران‪ .)2018 ،2017 ،‬نمونه های معمولی عبارتند از رگرسیون خطی‪ ،‬درخت تصمیم و سیستم ه‪55‬ای‬
‫استنتاج فازی‪ .‬دومی دارای سنت طوالنی است و می تواند از دانش تخصصی یا از داده ها طراحی شود و‬
‫‪ -‬از نقطه نظر تعامل انسان و هوش مصنوعی ‪ -‬چارچوب خوبی برای تعامل بین دانش متخص‪55‬ص انس‪55‬انی‬
‫و دانش پنهان در داده ها فراهم می کند (‪ .)Guillaume, 2001‬مثال دیگری توسط ‪ Caruana‬و همکاران‬
‫ارائه شد‪ ،)2015( .‬که در آن مدل‌های افزایشی تعمیم‌یافته با کارایی باال با برهمکنش‌ه‪55‬ای زوجی (‪)GAM‬‬
‫ب‪55‬رای مش‪55‬کالت ح‪55‬وزه پزش‪55‬کی اس‪55‬تفاده ش‪55‬د ک‪55‬ه م‪55‬دل‌های قاب‪55‬ل فهمی را ارائ‪55‬ه می‌ک‪55‬رد‪ ،‬ک‪55‬ه الگوه‪55‬ای‬
‫ش‪55‬گفت‌انگیزی را در داده‌ه‪55‬ا آش‪55‬کار ک‪55‬رد ک‪55‬ه قبًال از ارائ‪55‬ه م‪55‬دل‌های پیچی‪55‬ده آموخت‪55‬ه ش‪55‬ده در این ح‪55‬وزه‬
‫جلوگیری می‌کرد‪ .‬مهم این است که آنها مقیاس پذیری چنین روش هایی را به مجموعه داده های بزرگی که‬
‫شامل صدها هزار بیمار و هزاران ویژگی است نشان دادند‪.‬‬

‫در حالی که قابل فهم باقی ماندند و دقت قاب‪55‬ل مقایس‪55‬ه ب‪55‬ا به‪55‬ترین روش ه‪55‬ای ‪( ML‬غ‪55‬یر قاب‪55‬ل درک) ارائ‪55‬ه‬
‫کردند‪ .‬مث‪55‬ال دیگ‪55‬ری ب‪55‬رای روش‌ه‪55‬ای ‪ ante-hoc‬را می‌ت‪55‬وان در ‪ Poulin‬و همک‪55‬ارانش مش‪55‬اهده ک‪55‬رد‪( .‬‬
‫‪ ،)2006‬جایی که آنها چارچوبی را برای توضیح بصری تصمیمات هر طبقه بندی کننده ای ک‪55‬ه ب‪55‬ه عن‪55‬وان‬
‫یک مدل افزایشی فرموله شده است‪ ،‬توصیف کردند و نحوه پیاده سازی این چارچوب را در زمینه سه مدل‬
‫نشان دادند‪ :‬بیز ساده‪ ،‬ماشین های بردار پشتیبان خطی و رگرسیون لجستیک ک‪5‬ه آنه‪5‬ا م‪5‬وفقیت را ب‪5‬ه ط‪5‬ور‬
‫کامل در یک برنامه بیوانفورماتیک پیاده سازی کردند (‪.)Szafron et al., 2004‬‬
‫‪ | 3.1‬مثال‪ :‬تفسیر یک شبکه عصبی عمیق‬
‫ش‪55‬بکه‌های عص‪55‬بی عمی‪55‬ق (‪ ،)DNN‬به‌وی‪55‬ژه ش‪55‬بکه‌های عص‪55‬بی کانولوش‪55‬ن (‪ )CNN‬و ش‪55‬بکه‌های عص‪55‬بی‬
‫تکراری (‪ )RNN‬نشان داده شده‌اند که برای طی‪55‬ف گس‪55‬ترده‌ای از مش‪55‬کالت عملی‪ ،‬از تش‪55‬خیص تص‪55‬ویر و‬
‫طبقه‌بن‪55‬دی تص‪55‬ویر (‪ )Esteva‬قاب‪55‬ل اس‪55‬تفاده هس‪55‬تند‪ .‬و همک‪55‬اران‪ )2017 ،‬ب‪55‬ه تش‪55‬خیص ح‪55‬رکت (س‪55‬ینگ و‬
‫همکاران‪ .)2017 ،‬در عین ح‪55‬ال‪ ،‬این رویکرده‪55‬ا از نقط‪55‬ه نظ‪55‬ر علمی ن‪55‬یز قاب‪55‬ل توج‪55‬ه هس‪55‬تند‪ ،‬زی‪55‬را آنه‪55‬ا‬
‫فرآیندهای انسانی را منعکس می کنند‪ .‬به عنوان مثال‪ ،‬انسان ها ایده های خود را به صورت سلسله مراتبی‬
‫سازماندهی می کنند و کار اخیر شواهدی را در مورد اینکه چگونه مدل ه‪5‬ای آموخت‪5‬ه ش‪5‬ده در ‪ CNN‬ش‪5‬بیه‬
‫مدل های موجود در مسیر شکمی بینایی انسان است‪ ،‬مشاهده ش‪55‬ده اس‪55‬ت از مراح‪55‬ل اولی‪55‬ه تحقی‪55‬ق ب‪55‬ر روی‬
‫شبکه های عصبی مصنوعی‪ ،‬مردم سعی کرده اند تا آنها را قابل توضیح کنند‪ .‬یکی از رویکردهای اولی‪55‬ه‪،‬‬
‫رویکرد گرادیان ها در قالب تحلیل حساسیت بود‪.‬‬
‫ش‪55‬بکه عص‪55‬بی مص‪55‬نوعی (‪ )NN‬مجم‪55‬وعه‌ای از نورون‌ه‪55‬ا اس‪55‬ت ک‪55‬ه در ی‪55‬ک ت‪55‬والی از الیه‌ه‪55‬ای متع‪55‬دد‬
‫سازمان‌دهی شده‌اند‪ ،‬جایی که نورون‌ها فعال‌سازی‌های نورون را از الی‪55‬ه قبلی ب‪55‬ه عن‪55‬وان ورودی دری‪55‬افت‬
‫کرده و یک محاسبات ساده (مثًال مجموع وزنی از ورودی و به دنبال آن یک فعال سازی غیرخطی)‪.‬‬

‫نورون های شبکه به طور مشترک یک نقشه برداری غیرخطی پیچیده را از ورودی به خروجی این نقش‪55‬ه‬
‫برداری از داده ها با تطبیق وزن هر نورون جداگان‪55‬ه ب‪55‬ا اس‪55‬تفاده از انتش‪55‬ار برگش‪55‬تی آموخت‪55‬ه می ش‪55‬ود ک‪55‬ه‬
‫بارها وزن اتصاالت در شبکه را تنظیم می کند تا اختالف را به حداقل برساند‪.‬‬
‫بین بردار خروجی جریان و بردار خروجی مورد نظر‪ .‬به عنوان یک نتیج‪55‬ه از تنظیم‪55‬ات وزن‪ ،‬واح‪55‬دهای‬
‫پنهان داخلی که بخشی از ورودی یا خروجی نیستند‪ ،‬نشان دهنده ویژگی‌های مهم ح‪55‬وزه وظیف‪55‬ه و نظم‌ه‪55‬ای‬
‫موجود در آن هستند وظیفه توسط تعامالت این واحدها بدست می آید ‪.‬‬
‫به طور معمول‪ ،‬شبکه های عصبی عمیق با استفاده از یادگیری نظارت شده در مجموعه داده ه‪55‬ای ب‪55‬زرگ‬
‫و با دقت مشروح آموزش داده می شوند‪ .‬با این حال‪ ،‬نیاز به چنین مجموعه‌های داده‌ای فضای مشکالتی را‬
‫که می‌توان به آنها رسیدگی کرد‪ ،‬محدود می‌کند‪ .‬از یک طرف‪ ،‬این منجر به تکثیر نتایج یادگیری عمیق در‬
‫تکالیف یکسان با استفاده از مجموعه داده های شناخته شده یکسان شده است‪ .‬از سوی دیگر‪ ،‬ب‪5‬ه ارتب‪5‬اط در‬
‫حال ظهور رویکردهای ضعیف و بدون نظارت که هدفشان کاهش نیاز به حاشیه‌نویسی است‪.‬‬
‫چندین رویکرد برای بررسی و تفسیر شبکه های عصبی عمی‪55‬ق وج‪55‬ود دارد (کن‪55‬دال و گ‪55‬ال‪ .)2017 ،‬ع‪55‬دم‬
‫قطعیت معیاری را ارائه می دهد که چگونه اغتشاشات کوچ‪55‬ک داده ه‪55‬ای آموزش‪55‬ی می توان‪55‬د پارامتره‪55‬ای‬
‫مدل را تغییر دهد‪ ،‬به اصطالح عدم قطعیت مدل یا عدم قطعیت معرفتی‪ ،‬یا اینکه چگونه تغی‪55‬یرات پ‪55‬ارامتر‬
‫ورودی بر پیش بینی یک مثال خاص‪ ،‬عدم قطعیت پیش بینی کننده‪ ،‬یا تغییرپذیری ناشناخته تأثیر می گذارد‬
‫( ‪ .)2016‬در یک رویکرد یادگیری عمیق بیزی‪ )2017( ،‬پارامترهای مدل را از طریق روش‌های متغ‪55‬یر‬
‫تقریبی می‌کنن‪5‬د‪ ،‬ک‪5‬ه منج‪5‬ر ب‪5‬ه اطالع‪5‬ات ع‪5‬دم قطعیت وزن م‪5‬دل‪ ،‬و اب‪5‬زاری ب‪5‬رای اس‪5‬تخراج ع‪5‬دم قطعیت‬
‫پیش‌بی‪55‬نی از خروجی‌ه‪55‬ای م‪55‬دل می‌ش‪55‬ود‪ .‬ارائ‪55‬ه ع‪55‬دم قطعیت اس‪55‬تفاده مناس‪55‬ب از پیش‌بینی‌ه‪55‬ای م‪55‬دل را در‬
‫سناریوهایی که منابع مختلف اطالعات با هم ترکیب می‌شوند‪ ،‬به‌طور معمول در پزشکی تسهیل می‌کند‪ .‬م‪55‬ا‬
‫می‌ت‪55‬وانیم ع‪55‬دم قطعیت را ب‪55‬ه ع‪55‬دم قطعیت هموس‪55‬داتیک مس‪55‬تقل از ی‪55‬ک ورودی خ‪55‬اص‪ ،‬و ع‪55‬دم قطعیت‬
‫ناهمسانی که احتماًال با ورودی‌های مختلف به سیستم تغییر می‌کند‪ ،‬متمایز کنیم‪.‬‬
‫روش‌های اسناد به دنبال پیوند دادن خروجی خاصی از شبکه عصبی عمیق ب‪55‬ه متغیره‪55‬ای ورودی هس‪55‬تند‪.‬‬
‫ساندارراجان‪ ،‬تالی‪ ،‬و یان (‪ )2017‬شیب های خروجی را هنگام تغییر متغیره‪55‬ای ورودی ف‪55‬ردی تجزی‪55‬ه و‬
‫تحلیل می کنند‪ .‬به یک معنا‪ ،‬این عدم قطعیت پیش‌بینی را به اجزای یک ورودی چند متغیره بازمی‌گردان‪55‬د(‬
‫‪.)2016‬‬

‫از نقشه های فعال سازی برای شناسایی بخش ه‪55‬ایی از تص‪55‬اویر مرب‪55‬وط ب‪55‬ه پیش بی‪55‬نی ش‪55‬بکه اس‪55‬تفاده می‬
‫کنند‪ .‬رویکردهای اسنادی اخیر برای مولد مدل هایی معرفی شده است‪ )2017( .‬نشان می دهند که چگون‪55‬ه‬
‫مناطق تصویری مخصوص کالس پیش زمینه درهستند که می توانند شناسایی و در داده ه‪55‬ا روش‪55‬ن ش‪55‬وند‪.‬‬
‫بیفی و همک‪55‬اران (‪ )2018‬وی‪55‬ژگی ه‪55‬ای قاب‪55‬ل تفس‪55‬یر را ب‪55‬رای رمزگ‪55‬ذارهای خودک‪55‬ار متغ‪55‬یر ب‪55‬ا ی‪55‬ادگیری‬
‫گرادیان در فضای نهفته تعبیه شده که آن را به نتیجه طبقه بندی مرتبط می کند‪.‬‬
‫حداکثر سازی فعال سازی (مونتاون و همکاران‪ )2017 ،‬الگوهای ورودی را شناسایی می کند که منجر به‬
‫حداکثر فعال سازی مربوط به کالس های خاص در الی‪55‬ه خ‪55‬روجی می ش‪55‬ود (ب‪55‬رکس و ویس‪55‬کوت‪2006 ،‬؛‬
‫سیمونیان و زیسرمن‪ .)2014 ،‬این امر تجسم نمونه‌های ح‪55‬رفه‌ای کالس‌ه‪55‬ا را ممکن می‌س‪55‬ازد‪ ،‬و ارزی‪55‬ابی‬
‫می‌کند که مدل چه ویژگی‌هایی را ب‪55‬رای کالس‌ه‪55‬ای ‪ 1‬می‌گ‪55‬یرد ( وینس‪55‬نت‪ .)2009 ،‬ب‪55‬رای طبقه‌بندی‌کنن‪55‬ده‬
‫شبکه عصبی که نقاط داده ‪ x‬را به مجموعه‌ای از کالس‌ها نگاشت می‌کند‪ ،‬این رویک‪55‬رد ب‪55‬ه ش‪55‬دت مش‪55‬خص‬
‫می‌کند‪.‬‬
‫مناطق احتمالی در فضای ورودی‪ ،‬که احتمال خروجی باالیی را برای یک کالس خاص ایجاد می کند‪ .‬این‬
‫موقعیت ها را می توان توسط معرفی یک مدل چگالی داده در تابع هدف استاندارد ‪logp (ωc | x) – λ k‬‬
‫‪ xk2‬که در طول مدل به حداکثر می رسد‬
‫آموزش‪ .‬به جای تنظیم کننده ‪ ℓ 2-norm‬که اولویتی را برای ورودی های نزدیک به مبدا اعم‪55‬ال می کن‪55‬د‪،‬‬
‫چگالی مدل یا "متخصص" (مونتاون و همکاران‪ )2017 ،‬عبارت )‪ logp(ωc| x) + logp(x‬را به دست‬
‫می‌دهد که باید حداکثر شود‪ .‬در اینجا‪ ،‬نوع پروتو تشویق می‌شود تا ب‪55‬ه ط‪55‬ور همزم‪55‬ان پاس‪55‬خ کالس ق‪55‬وی و‬
‫شبیه داده‌ها را تولید کند‪ .‬با اعمال قانون بیز‪ ،‬ه‪55‬دف جدی‪55‬د تعری‪55‬ف ش‪55‬ده را می ت‪55‬وان ت‪55‬ا ح‪55‬د خطاه‪55‬ای م‪55‬دل‬
‫سازی و یک عبارت ثابت به عنوان چگالی داده های شرطی کالس شناسایی کرد‪.‬‬
‫)‪ .p(x| ωc‬بنابراین نمونه اولیه آموخته شده با محتمل ترین ورودی ‪ x‬برای کالس ‪ ωc‬مطابقت دارد ‪.‬‬

‫یک انتخاب احتمالی برای متخصص یک ماشین بولتزمن محدود شده گاوسی (‪ )RBM‬است‪ RBM .‬یک دو‬
‫الیه و دو بخشی است‪ ،‬مدل گرافیکی بدون جهت با مجموعه ای از واحدهای پنهان باینری )‪ ،p(h‬مجموعه‬
‫ای از واحدهای قابل مشاهده (دودویی یا با ارزش واقعی)‬
‫)‪ ،p(v‬با اتصاالت متقارن بین دو الیه که با ماتریس وزنی ‪ W‬نشان داده شده است‪ .‬احتماالت معناشناس‪55‬ی‬
‫برای یک ‪ RBM‬است با تابع انرژی آن تعری‪5‬ف می ش‪5‬ود (ب‪5‬رای جزئی‪5‬ات بیش‪5‬تر ب‪5‬ه فص‪5‬ل هینت‪5‬ون ‪2012‬‬
‫مراجعه‬
‫کنی‪5555‬د)‪.‬‬
‫تابع احتمال آن را می توان به صورت زیر نوشت‪:‬‬
‫فاکتورهایی با پارامترهایی هستند که از داده ها‪ .‬هنگام تفسیر مفاهیم پیچی‪5‬ده ت‪5‬ر مانن‪5‬د کالس ه‪5‬ای تص‪55‬اویر‬
‫طبیعی‪ ،‬مدل های چگالی دیگر مانند کانولوشن یا پیکسل مناسب هستند‪.‬‬
‫انتخاب به اصطالح متخصص )‪ p(x‬نقش مهمی ایف‪5‬ا می کن‪5‬د‪ .‬اساس‪ً5‬ا چه‪5‬ار ح‪5‬الت مختل‪5‬ف وج‪5‬ود دارد‪ :‬در‬
‫مورد در جایی که "متخصص" وجود ندارد‪ ،‬یعنی مسئله بهینه سازی به حداکثر ک‪55‬ردن ت‪55‬ابع احتم‪55‬ال کالس‬
‫‪ p‬کاهش می یابد‪.‬‬
‫‪ | 3.2‬نمونه مورد استفاده هیستوپاتولوژی‬
‫این بخش پیچیدگی توضیحات یک آسیب شناس انسانی را نش‪55‬ان می ده‪55‬د‪ .‬ب‪55‬رای تش‪55‬خیص زی‪55‬ر م‪55‬ا از ی‪55‬ک‬
‫آسیب شناس باتجربه خواستیم تا آنچه را که در اسالیدهای بافت شناسی مرتبط می داند توض‪55‬یح ده‪55‬د‪ .‬بخش‬
‫بسیار کوچکی از بخش های بافت شناسی در ش‪55‬کل ‪ 3‬ب‪55‬ه عن‪55‬وان تص‪55‬ویر نش‪55‬ان داده ش‪55‬ده اس‪55‬ت‪ .‬ب‪55‬رای این‬
‫تشخیص خاص‪ ،‬آسیب شناس حقایق زیر را به عنوان توضیح پس از مرگ ارائه کرد‪ • :‬بیوپسی کبد با ‪10‬‬
‫میدان پورتال قابل ارزیابی‪ • .‬معماری لوبول حف‪55‬ظ ش‪55‬ده اس‪55‬ت‪ • .‬س‪55‬لول ه‪55‬ای کب‪55‬دی در ص‪55‬فحات منظم ب‪55‬ه‬
‫ضخامت یک الیه سلولی مرتب شده اند‪.‬‬

‫• زمینه های پورتال کمی گشاد شده و کمی فیبروتیک‪ • .‬سپتوم پورتو پورتال و پورتو مرکزی ناقص جدا‬
‫شده‪ • .‬زمینه های پورتال کمی ملتهب ب‪55‬ا س‪55‬لول ه‪55‬ای مختل‪55‬ط (لنفوس‪55‬یت ه‪55‬ا‪ ،‬گرانولوس‪55‬یت ه‪55‬ای نوتروفی‪55‬ل‬
‫پراکنده) ملتهب التهابی‪ .‬التهاب محدود به میدان پورتال است‪ • .‬صفحه مرزی پارانش‪55‬یمات دس‪55‬ت نخ‪55‬ورده‪،‬‬
‫سلول های کبدی با آنیزوکاریوز کم‪ ،‬کبد چرب با قطرات نسبتًا بزرگ (تخریب چ‪55‬ربی پارانش‪55‬یم تخمین زده‬
‫شده در ‪ 30‬درصد از ناحیه پارانشیم)‪ • .‬سلول های کبدی مرکزی لوبوالر بالون ش‪55‬ده‪ ،‬سیتوپالس‪55‬می س‪55‬بک‬
‫با ادغام اجسام مالوری‪-‬دنک‪ • .‬بیشتر این سلول های کبدی توسط گرانولوسیت های نوتروفی‪5‬ل احاط‪5‬ه ش‪5‬ده‬
‫اند و برخی از آنها در هم قرار گرفته اند (ماهواره)‪ • .‬فیبروز مینور پریوانوالر (= اسکلروز مرک‪55‬زی)‪• .‬‬
‫سلول های کوپفر اندکی افزایش یافته و ندول های سلول کوپفر جدا شده قابل تشخیص است‪ • .‬در رنگ آبی‬
‫برلینر سیدروزیس پارانشیماتوز مینور و سلول کوپفر‪.‬‬
‫‪ | 3.2.2‬مثالی برای س‪55‬اختار پیش از انج‪55‬ام توض‪55‬یحات م‪55‬ا همچ‪55‬نین از پاتولوژیس‪55‬ت خواس‪55‬تیم ک‪55‬ه فرآین‪55‬د و‬
‫مفاهیم مرتبط در آسیب شناسی کبد را توضیح دهد‪ .‬لطفًا توجه داشته باشید که توضیحات زیر فق‪55‬ط س‪55‬اختار‬
‫و پیچیدگی را نشان می‌دهد و از کت‪55‬اب درس‪55‬ی آس‪55‬یب شناس‪55‬ی کب‪55‬د بس‪55‬یار دور اس‪55‬ت‪ .‬پاتولوژیس‪55‬ت روش و‬
‫مش‪55‬اهدات زی‪55‬ر را به‌عن‪55‬وان توض‪55‬یحی پیش‌ت‪55‬ر ب‪55‬رای آسیب‌شناس‪55‬ی کب‪55‬د توص‪55‬یف ک‪55‬رد‪ • :‬در ارزی‪55‬ابی‬
‫ماکروسکوپی بخش بافت‌شناسی ویژگی‌ه‪5‬ای زی‪5‬ر را ش‪5‬رح دهی‪5‬د‪ - :‬ن‪5‬وع‪ ،‬تع‪5‬داد و ان‪5‬دازه نمونه‌ه‪5‬ا (نمون‪5‬ه‬
‫جراحی یا بیوپسی) ‪ -‬پیوستگی بافتی بیوپسی ‪ -‬کیفیت رنگ‌آمیزی (‪H & E/CAB/Sirius red/iron/ev.‬‬
‫‪ ،PAS‬ایمونوهیستوش‪55‬یمی) ‪ -‬ب‪55‬افت خ‪55‬ارجی (توم‪55‬ور) از قب‪55‬ل قاب‪55‬ل مش‪55‬اهده اس‪55‬ت‪ .‬احس‪55‬اس فی‪55‬بروز ی‪55‬ا‬
‫نکروز‪/‬تخریب شده در زمینه سیروز یا تومور ‪ -‬تعداد میدان های پورتال قاب‪5‬ل ارزی‪5‬ابی (بهین‪5‬ه ‪ 15-10‬در‬
‫هر اسالید) ‪ -‬سلول های کبدی (هپاتوسیت) صفحات منظم‪ -‬ی‪55‬ک الی‪55‬ه س‪55‬لولی ض‪55‬خیم ‪ /‬چن‪55‬دین الی‪55‬ه س‪55‬لولی‬
‫ضخیم‬
‫‪-‬تغییرات التهابی پورتال‪/‬لوبوالر‪/‬ترکیبی؛ نکروز لوبوالر محیطی‪/‬لوبوالر مرکزی)‬
‫‪ -‬وجود یا عدم وجود بافت‬
 ‫‪-‬در ارزیابی میکروسکوپی با بزرگنمایی بیشتر ویژگی های زیر را شرح دهید‪:‬‬
‫– مجاری پورتال‪ :‬منظم‪/‬متوسع‪/‬فیبروتیک‪/‬گرد‪/‬ادماتوز‬
‫‪-‬حاشیه پارانشیم بافت همبند‪ :‬تیز‪/‬غیر تیز‬
‫‪-‬صفحه مرزی پارانشیمی‪ :‬حفظ شده‪/‬تا حدی تخریب شده‪/‬بیشتر تخریب شده‪/‬درگاه نفوذه‪5‬ای الته‪5‬ابی وج‪5‬ود‬
‫ندارد‪-/‬‬
‫رابط اطراف پورتال‪ ،‬پراکنده ‪ /‬تنگ ‪ /‬فولیک‪55‬والر موض‪55‬عی ‪ /‬لنفوس‪55‬یتی ‪ /‬لنفوهیستیوس‪55‬یتیک ‪ /‬نوتروفی‪55‬ل ‪-‬‬
‫گرانولوسیتی ‪ /‬ائوزینو فیل گرانولوسیتی ‪ /‬گرانولوماتوز‪.‬‬
‫‪ -‬محتوای غیر طبیعی میدان پورتال وجود ندارد (سلول های تومور‪/‬جسم خارجی‪/‬انگل)‬
‫‪ -‬عروق پورتال (شریان هپاتیکا‪ ،‬ورید درگاهی و عروق لنفاوی) موجود‪/‬بسط یافته‪ /‬تنگ شده‪/‬التهاب؛‬
‫– مجاری صفراوی‪ :‬موجود‪/‬کشیده‪/‬غایب‪/‬اپیتلیوم تک الیه‪/‬اپیتلیوم چندالیه‪/‬اپیتلیوم پلی مورفیک‪/‬التهاب‬
‫تغییرات‪/‬تا حدی تخریب شده‪/‬اسکار‪/‬محتوا (ترومبوز صفراوی‪/‬پورفیرینترومبوس)؛‬
‫‪-‬واکنش مجرای غایب‪/‬کم‪/‬تلفظ‪/‬کلستاز مجاری‪.‬‬
‫‪-‬لوب‪5555‬ول ه‪5555‬ا (لوبول‪5555‬وس‪ ،‬پارانش‪5555‬یم کب‪5555‬د)‪ :‬س‪5555‬لول ه‪5555‬ای کب‪5555‬دی ب‪5555‬زرگ‪/‬ب‪5555‬الونیزه ش‪5555‬ده‪/‬کوچ‪5555‬ک‬
‫آتروفیک‪/‬آنیزوسیتوز‪/‬آپوپتوز‬
‫سیتوپالسم‪ :‬گرانول‪/‬شبکه‪/‬سبک سیتوپالسمی‪ -‬غنی از گلیکوژن‪/‬همگن منتشر‪/‬همگن شده کانونی‬
‫انکلوزیون سیتوپالسمی چربی قطره بزرگ ‪ /‬چربی قطره کوچک ‪ /‬گرانول لیپوفوسین ‪ /‬گرانول سیدرین ‪/‬‬
‫آخال ‪ / AAT‬فیبرینوژن‬
‫اجزاء ‪ /‬اجسام مالوری دنک (‪ ،)MDB‬اجسام هیالین ‪ /‬بیلی روبین‬
‫‪-‬بیلی روبینوستاز کانالی‬
 ‫‪-‬نکروزهای منتشر‪/‬همراه‪/‬لوبوالر مرکزی‪/‬محیط لوبوالر‪/‬پلی پورتو مرکزی‪/‬پلی مرکزی مرکزی‪/‬انبوه‪.‬‬
‫‪ -‬هسته سلول های کبدی آنیسوکاریوز ‪ /‬پیکنوز ‪ /‬پانچ هسته ‪" /‬هسته های شنی" ‪ /‬آخال های هسته‪.‬‬
‫‪ -‬سلول های کوپفر به طور کانونی افزایش یافته (ندوالر) ‪ /‬انتشار افزایش یافته ‪ /‬بزرگ شده ‪ /‬انکلوزی‪55‬ون‬
‫(سیدرین‪ ،‬رنگدانه‪ ،‬گلبول های قرمز‪ ،‬پاتوژن‪،‬‬
‫مواد خارجی)؛‬
‫‪-‬سلول های ستاره ای (سلول های ستاره ای) افزایش یافت‬
‫‪ -‬محتوای گشاد شده‪/‬غیر طبیعی سینوسی (مانند خون‪ ،‬فیبرین و سلول های تومور)‬
‫‪-‬لومن ورید مرکزی باز ‪ /‬باریک ‪ /‬محو ‪ /‬ملتهب ‪ /‬فیبروز دیواره‪.‬‬
‫– فیبروز‪ :‬پورتال ‪ /‬پری سینوسوئیدی ‪ /‬دور س‪55‬لولی ‪ /‬اط‪55‬راف وری‪55‬دی ‪ /‬س‪55‬پتال ‪ /‬پورت‪55‬و پورت‪55‬ال ‪ /‬پورت‪55‬و‬
‫مرکزی ‪ /‬مرکز مرکزی ‪ /‬فیبروز سیم مشبک ‪ /‬سیروز ناقص ‪ /‬سیروز‪.‬‬
‫‪-‬بافت خارجی (بافت توموری که باید از نظر مورفولوژیکی مشخص ش‪55‬ود‪ ،‬اولی‪55‬ه ‪ /‬ثانوی‪55‬ه ‪ -‬متاس‪55‬تاتیک ‪/‬‬
‫نامشخص)‪.‬‬
‫برای ی‪55‬ک م‪55‬ورد خ‪55‬اص‪ ،‬مق‪5‬ادیر تم‪55‬ام ویژگی‌ه‪55‬ای ف‪55‬وق ب‪55‬ه تش‪55‬خیص ب‪55‬ا وزن‌ه‪55‬ای مختل‪55‬ف و رواب‪55‬ط علی‬
‫ارائه‌شده در مدل انسانی آسیب‌شناسی کبد کمک می‌کند‪ ،‬که متخصص با آم‪55‬وزش و تجرب‪55‬ه ب‪55‬ه دس‪55‬ت آورده‬
‫است‪.‬‬
‫‪ | 4‬چشم انداز آینده‬
‫‪ | 4.1‬یادگیری با نظارت ضعیف‬
‫یادگیری تحت نظارت در حوزه پزشکی بسیار پرهزینه است زیرا دریافت اطالعات نظارت ق‪55‬وی و دس‪55‬ت‬
‫و پا گیر است‪ .‬برچسب های حقیقت کامًال زمینی به ویژه‪ ،‬برچسب زدن یک تص‪55‬ویر هیس‪5‬توپاتولوژیک ن‪5‬ه‬
‫تنها وقت گیر است‪ ،‬بلکه یک کار حیاتی برای تشخیص سرطان‪ ،‬زیرا از نظ‪55‬ر ب‪55‬الینی مهم اس‪55‬ت ک‪55‬ه ب‪55‬افت‬
‫های سرطانی را تقسیم بندی کنیم و آنها را به کالس های مختلف دسته بندی کنیم‪.‬‬
‫تصاویر پاتولوژیک دیجیتال به ط‪5‬ور کلی دارای مس‪5‬ائلی هس‪5‬تند ک‪5‬ه بای‪5‬د در نظ‪5‬ر گرفت‪5‬ه ش‪5‬وند‪ ،‬از جمل‪5‬ه‬
‫اندازه تصویر بسیار بزرگ (و مشکالت مربوط به ‪ ،)DL‬تصاویر ب‪5‬ا برچس‪5‬ب ناک‪5‬افی (داده ه‪5‬ای آموزش‪5‬ی‬
‫کوچک موجود)‪ ،‬زمان مورد نیاز از پاتولوژیس‪55‬ت (برچس‪55‬ب گ‪55‬ذاری گ‪55‬ران قیمت)‪ ،‬برچس‪55‬ب ه‪55‬ای ناک‪55‬افی‬
‫(منطقه مورد عالق‪5‬ه)‪ ،‬س‪5‬طوح مختل‪5‬ف بزرگنم‪5‬ایی (در نتیج‪5‬ه متف‪5‬اوت س‪5‬طوح اطالع‪5‬ات)‪ ،‬تن‪5‬وع رن‪5‬گ و‬
‫مص‪55‬نوعات (ب‪55‬رش خ‪55‬ورده و ق‪55‬رار داده ش‪55‬ده روی اس‪55‬الیدهای شیش‪55‬ه ای) و غ‪55‬یره (کوم‪55‬ورا و ایش‪55‬یکاوا‪،‬‬
‫‪.)2018‬‬
‫در زمینه یادگیری با نظارت ضعیف‪ ،‬ما طبقه بندی تصاویر کل اسالید را بر اس‪55‬اس امتی‪55‬ازدهی پرک‪55‬اربرد‬
‫پیشنهاد می کنیم‪.‬‬
‫سیستم‌هایی مبتنی بر ارتب‪55‬اط ب‪55‬ا ویژگی‌ه‪55‬ای هیس‪55‬تومورفولوژیکی و ی‪55‬ک امتی‪55‬از پیش‌بی‪55‬نی کلی‪ ،‬و به‌عالوه‬
‫ارائه یک نقشه مرتبط با مشاهده متخصص انس‪55‬انی در حین تش‪55‬خیص‪ .‬ب‪55‬ا ترکی‪55‬بی از مع‪55‬روف ویژگی‌ه‪55‬ای‬
‫انسانی و طبقه‌بندی‌کننده‌های ریخت‌شناختی چن‪55‬د مقیاس‪55‬ی جدی‪55‬د‪ ،‬م‪55‬دل علی انس‪55‬انی را می‌ت‪55‬وان از ی‪55‬ک س‪55‬و‬
‫گسترش داد و از سوی دیگ‪55‬ر م‪55‬دل ‪ CNN‬را می ت‪55‬وان ب‪55‬ا وی‪55‬ژگی ه‪55‬ای هیس‪55‬تومورفولوژیکی ش‪55‬ناخته ش‪55‬ده‬
‫توضیح داد‪ .‬ما پیشنهاد می کنیم از هر دو استخراج کنیم هسته های تک سلولی خوش خیم و ب‪55‬دخیم و طبق‪55‬ه‬
‫بندی سازمان کروماتین (‪ Araujo‬و همکاران‪ )2017 ،‬در هسته ها ب‪55‬رای همبس‪55‬تگی این ب‪55‬ه وی‪55‬ژگی ه‪55‬ای‬
‫هیستوپاتولوژیک و نشانگرهای مولکولی‪.‬‬
‫‪ | 4.2‬مدل های علی ساختاری‬
‫یک جهت بسیار مهم تحقیق به سمت مدل های علی ساختاری است (پرل‪2009 ،‬؛ پرل و مک‪55‬نزی‪2018 ،‬؛‬
‫پیترز و همکاران‪ .)2017،‬هوش مص‪55‬نوعی فعلی ب‪5‬ر روی ح‪5‬الت آم‪5‬اری ی‪5‬ا ب‪5‬دون م‪5‬دل ک‪5‬ار می کن‪5‬د‪ .‬این‬
‫مستلزم محدودیت‌های شدیدی ب‪55‬رای اثربخش‪55‬ی و عملک‪55‬رد اس‪55‬ت‪ .‬چ‪55‬نین سیس‪55‬تم ه‪55‬ایی نمی توانن‪55‬د در م‪55‬ورد‬
‫مداخالت و گذشته نگری استدالل کنند و بنابراین نمی توانند برای هوش مصنوعی قوی‪.‬‬
‫برای دستیابی به هوش سطح انسانی‪ ،‬هوش مصنوعی به راهنمایی مدلی از واقعیت‪ ،‬مشابه مدل‌های م‪55‬ورد‬
‫استفاده نیاز دارد در وظایف استنتاج علی در نتیجه‪ ،‬ما پیشنهاد می‌کنیم‪:‬‬

‫(‪ )1‬تکنیک‌های تجسم جدیدی را توسعه دهیم که می‌توان‪55‬د توس‪55‬ط متخصص‪55‬ان پزش‪55‬کی آم‪55‬وزش داده ش‪55‬ود‪،‬‬
‫زی‪55‬را آنه‪55‬ا می‌توانن‪55‬د عوام‪55‬ل توض‪55‬یحی اساس‪55‬ی داده‌ه‪55‬ا را کش‪55‬ف کنن‪55‬د و (‪ )2‬ی‪55‬ک م‪55‬دل عّلی س‪55‬اختاری را‬
‫رسمی‌سازی کنند‪ .‬ویژگی های تصمیم گیری و نقشه ب‪5‬رداری انس‪5‬انی در این رویکرده‪5‬ا ب‪5‬ه ‪ .DL‬در آس‪5‬یب‬
‫شناسی دیجیتال چنین مدل های مکانیکی می تواند باشد برای تجزیه و تحلیل و پیش‌بی‪55‬نی پاس‪55‬خ ی‪55‬ک رفت‪55‬ار‬
‫شبکه عملکردی به ویژگی‌های موجود در اسالیدهای بافت‌شناسی‪ ،‬داده‌های مولکولی و سابقه خانوادگی‪.‬‬
‫‪ | 4.3‬توسعه علیت به عنوان یک زمینه علمی جدید جامع‪55‬ه تعام‪55‬ل انس‪55‬ان و رایان‪55‬ه طی‪55‬ف وس‪55‬یعی از روش‬
‫های قابلیت استفاده را ایجاد کرده اس‪55‬ت (ه‪55‬ولزینگر‪ .)2005 ،‬مش‪55‬ابه این روش‌ه‪55‬ا‪ ،‬روش‌ه‪55‬ا و آزمون‌ه‪55‬ای‬
‫کاربردپذیری‪ ،‬ما نیاز به توسعه روش‌ه‪55‬ا‪ ،‬روش‌ه‪55‬ا و آزمون‌ه‪55‬ای علیت داریم ک‪55‬ه مبت‪55‬نی ب‪55‬ر اص‪55‬ول علمی‬
‫روشن و نظریه‌های علیت باشد تا علیت را به عنوان یک حوزه علمی تثبیت کنیم که ب‪55‬ا اف‪55‬زایش اس‪55‬تفاده از‬
‫آن ضروری می‌شود‪ .‬هوش مصنوعی همان‌طور که معیارهای کاربردپذیری «کیفیت اس‪55‬تفاده» را تض‪55‬مین‬
‫می‌کند ‪ ،‬معیارهای علیت نیز باید «کیفیت توضیحات» را تضمین کنند‪ .‬با توجه به سلس‪55‬له م‪55‬راتب علی س‪55‬ه‬
‫الیه توسط پرل (‪ :)2018‬سطح ‪ :1‬ارتباط )‪ P(y| x‬با فعالیت معمولی "دیدن" و سواالتی از جمله "چگونه‬
‫دیدن ‪ X‬باور من به ‪ Y‬را تغییر می دهد؟"‪ ،‬در استفاده ما ‪ -‬م‪55‬ورد ب‪55‬اال این س‪55‬وال ب‪55‬ود ک‪55‬ه "ی‪55‬ک وی‪55‬ژگی در‬
‫بافت شناسی چه چیزی آسیب شناس را در مورد یک بیماری می کشاند؟"‬
‫سطح ‪ :2‬مداخله )‪ P(y| do(x)، z‬با فعالیت معم‪55‬ول "انج‪55‬ام دادن" و س‪55‬واالتی از جمل‪55‬ه "اگ‪55‬ر ‪ X‬را انج‪55‬ام‬
‫دهم؟"‪ ،‬در مورد استفاده ما در باال‪ ،‬این سوال این بود که "اگر متخصص پزشکی درمان ‪ X‬را توص‪55‬یه می‬
‫کند ‪ -‬آیا بیمار درمان می شود؟ سطح ‪ :3‬متضادها ) ‪ P(yx| x 0، y 0‬با فع‪55‬الیت معم‪55‬ول "ب‪55‬ازنگری" و‬
‫سواالتی از جمله "آیا ‪ Y‬دلیل ‪ X‬بود؟"‪ ،‬در مورد استفاده ما در باال‪ ،‬این سوال بود ک‪55‬ه "آی‪55‬ا این درم‪55‬انی ک‪55‬ه‬
‫بیمار را درمان کرد؟» برای هر یک از این سطوح‪ ،‬ما باید روش‌هایی را برای اندازه‌گیری اثربخش‪55‬ی (آی‪55‬ا‬
‫توضیحی بیانیه‌ای را با سطح جزئیات کافی توضیح می‌دهد)‪ ،‬کارایی (آیا این کار ب‪55‬ا ح‪55‬داقل زم‪55‬ان و تالش‬
‫انجام می‌شود) و رضایت کاربر (کارخانه چقدر رضایت داشت) توسعه دهیم‪ .‬توضیح برای فرآین‪55‬د تص‪55‬میم‬
‫گیری)‪ .‬باز هم باید اش‪55‬اره ک‪55‬نیم ک‪55‬ه س‪55‬ه ن‪55‬وع توض‪55‬یح وج‪55‬ود دارد‪ )1( :‬توض‪55‬یح همت‪55‬ا ب‪55‬ه همت‪55‬ا ک‪55‬ه در بین‬
‫پزشکان در حین گزارش پزشکی انجام می شود‪ )2( .‬توض‪5‬یح آموزش‪5‬ی هم‪5‬انطور ک‪5‬ه بین معلم‪5‬ان و دانش‬
‫آموزان انجام می شود‪.‬‬

‫(‪ )3‬توضیح علمی به معنای دقیق نظریه علم (پوپر‪ .)1935 ،‬تاکی‪55‬د می ک‪55‬نیم ک‪55‬ه در این مقال‪55‬ه همیش‪55‬ه ب‪55‬ه‬
‫توضیح نوع اول اشاره می کنیم‪.‬‬
‫‪ | 5‬نتیجه‬
‫هوش مصنوعی در حال حاضر یکی از فناوری های کلیدی در اقتصاد ما است‪ .‬این تغییرات مشابه معرفی‬
‫موتور بخار را به همراه خواهد داشت یا برق با این حال‪ ،‬نگرانی ها در مورد از دست دادن ب‪55‬القوه کن‪55‬ترل‬
‫در رابطه انسان و هوش مصنوعی در حال افزایش است‪ .‬مس‪55‬ائلی مانن‪55‬د رانن‪55‬دگی مس‪55‬تقل و تص‪55‬میم گ‪55‬یری‬
‫نامشخص در مورد وسیله نقلیه‪ ،‬به عنوان مثال‪ ،‬در موارد شدید کمی قبل از تصادف‬
‫برخورد‪ .،‬این سوال که هوش مصنوعی تا چه حد می توان‪55‬د ی‪55‬ا بای‪55‬د ب‪55‬ه همین ص‪55‬ورت اس‪55‬ت از تص‪55‬میمات‬
‫پزشکی حمایت کند یا حتی خودش آنها را بگیرد مدتهاست موضوع بحث عم‪55‬ومی ب‪55‬وده اس‪55‬ت‪ .‬در بس‪55‬یاری‬
‫از موارد درک چگونگی تصمیم گ‪5‬یری ماش‪5‬ین ض‪55‬روری خواه‪5‬د ب‪5‬ود س‪5‬اخته ش‪5‬د و ب‪5‬رای ارزی‪5‬ابی کیفیت‬
‫توضیح‪ .‬در حالی که راه‌حل‌های مبتنی بر قانون ه‪5‬وش مص‪5‬نوعی اولی‪5‬ه در ده‪5‬ه ‪ 1950‬رویکرده‪5‬ای قاب‪5‬ل‬
‫فهم «جعبه شیشه‌ای» را نش‪5‬ان می‌دادن‪5‬د‪ ،‬ض‪55‬عف آنه‪5‬ا در برخ‪5‬ورد ب‪5‬ا ع‪5‬دم قطعیت‌ه‪5‬ای دنی‪5‬ای واقعی ب‪5‬ود‪.‬‬
‫بسیاری از مسائل زندگی روزمره م‪5‬ا را نمی ت‪5‬وان ب‪5‬ا قواع‪5‬د منطقی ریاض‪5‬ی نادرس‪5‬ت نش‪5‬ان داد‪ .‬شکس‪5‬ت‬
‫چنین الگوریتم هایی در حل مسائلی که برای انسان نسبتًا ساده است‪ ،‬مانند به عنوان زبان طبیعی‪ ،‬تشخیص‬
‫چهره ها‪ ،‬یا درک یک شوخی‪ ،‬در نهایت به "زمستان هوش مصنوعی" در دهه ‪ 1980‬منج‪55‬ر ش‪55‬د‪ .‬فق‪55‬ط از‬
‫طریق پیروزی روش های یادگیری احتمالی و آماری در ارتباط با موفقیت ش‪55‬بکه ه‪55‬ای عص‪55‬بی مص‪55‬نوعی‬
‫(عمیق یادگیری») آیا برنامه های کاربردی هوش مصنوعی به طور فزاینده ای موفق شدند‪.‬‬
‫امروزه الگوریتم‌های ‪ DL‬در زندگی روزمره م‪55‬ا بس‪55‬یار مفی‪55‬د هس‪55‬تند‪ :‬رانن‪55‬دگی خودک‪55‬ار‪ ،‬تش‪55‬خیص چه‪55‬ره‪،‬‬
‫درک گفت‪55‬ار‪ ،‬سیس‪55‬تم‌های توص‪55‬یه و غ‪55‬یره در ح‪55‬ال حاض‪55‬ر بس‪55‬یار خ‪55‬وب ک‪55‬ار می‌کنن‪55‬د‪ .‬ب‪55‬ا این ح‪55‬ال‪ ،‬درک‬
‫چگونگی این الگوریتم ها برای مردم بسیار دشوار است‪ .‬به یک تصمیم بیایند در نهایت‪ ،‬اینها مدل های ب‪55‬ه‬
‫اصطالح "جعبه سیاه" هستند‪ .‬مشکل این است که حتی اگر اص‪55‬ول و نظریه‌ه‪5‬ای ریاض‪55‬ی اساس‪5‬ی را درک‬
‫کنیم‪.‬‬

‫چنین مدل‌هایی فاقد بازنمایی علنی صریح از دانش هستند‪ .‬راه‌حل‌های اولیه هوش مص‪55‬نوعی (در آن زم‪55‬ان‬
‫به نام سیستم‌های خبره) از همان ابتدا هدفشان این بود که راه‌حل‌ها را قابل درک و قابل درک کنند‪.‬‬
‫بنابراین قابل توضیح است که در مسائل بسیار محدود نیز امکان پذیر بود‪ .‬البته باید به تعداد زی‪5‬ادی اش‪5‬اره‬
‫کرد مش‪5‬کالت احتم‪5‬اًال در ه‪5‬ر زم‪5‬ان نی‪5‬ازی ب‪5‬ه توض‪5‬یح ب‪5‬رای هم‪5‬ه چ‪5‬یز ندارن‪5‬د‪ .‬در اینج‪5‬ا‪ ،‬ح‪5‬وزه ه‪5‬وش‬
‫مصنوعی قابل توضیح نه تنها مفید و ضروری است‪ ،‬بلکه نشان دهنده یک فرص‪55‬ت ب‪55‬زرگ ب‪55‬رای راه ح‪55‬ل‬
‫های هوش مصنوعی است‪ .‬به طور کلی بنابراین می‌توان ناشنوایی عمومی هوش مص‪55‬نوعی را ک‪55‬اهش داد‬
‫و اعتماد الزم را ایجاد کرد‪ .‬دقیقا این می تواند ترویج پذیرش دائمی با کاربران آین‪55‬ده مش‪55‬کل اص‪55‬لی موف‪55‬ق‬
‫ترین سیستم های فعلی ‪ ،ML‬که اخیرًا توسط )‪ Pearl (2018‬تأکید شده اس‪55‬ت‪ ،‬این اس‪55‬ت ک‪55‬ه آنه‪55‬ا ب‪55‬ر روی‬
‫یک حالت آماری یا بدون مدل‪ ،‬که مستلزم محدودیت های شدید در عملکرد آنه‪5‬ا اس‪5‬ت‪ .‬چ‪5‬نین سیس‪5‬تم ه‪5‬ایی‬
‫قادر به درک نیستند از این رو نمی توان در م‪5‬ورد م‪5‬داخالت و گذش‪5‬ته نگ‪5‬ری اس‪5‬تدالل ک‪5‬رد‪ .‬ب‪5‬ا این ح‪5‬ال‪،‬‬
‫چنین رویکردهایی نیاز به راهنمایی الف دارد مدل انسانی مشابه نمونه هایی که در تحقیق‪55‬ات علیت اس‪55‬تفاده‬
‫می شود (پرل‪2009 ،‬؛ پرل و مکنزی‪ )2018 ،‬برای پاسخ ب‪5‬ه این س‪5‬وال "چ‪5‬را؟"‪ .‬ایج‪5‬اد علیت ب‪5‬ه عن‪5‬وان‬
‫یک زمینه علمی محکم می تواند در اینجا کمک کند‪.‬‬
‫«داده‌ها می‌توانند به شما بگویند افرادی ک‪55‬ه دارو مص‪55‬رف کرده‌ان‪55‬د س‪55‬ریع‌تر از کس‪55‬انی ک‪55‬ه آن را مص‪55‬رف‬
‫نکرده‌اند بهبود یافته‌اند‪ ،‬اما خودشان نمی توانم ب‪55‬ه ش‪55‬ما بگ‪55‬ویم چ‪55‬را ش‪55‬اید کس‪55‬انی ک‪55‬ه این دارو را مص‪55‬رف‬
‫کرده‌اند این کار را به این دلیل انجام داده‌اند که توانایی پرداخت آن را داشته‌اند و بدون آن به همان س‪55‬رعت‬
‫بهبود می‌یابند‪».‬‬