هوش مصنوعی (AI) ابزاری نوآورانه است که می‌توان آن را برای پیش‌بینی و حل مشکلات به شکل سریع و با دقت آموزش داد. با این حال، استدلال پشت خروجی یا اطلاعات ارسال‌شده پس از دریافت ورودی نرم افزار هوش مصنوعی از مجموعه داده‌ها هنوز به روشنی درک نشده است.
پژوهشگران سعی کرده‌اند روش‌هایی را که هوش مصنوعی با آن‌ها اطلاعات تولید می‌کند و قوانین و مقرراتی را که هوش مصنوعی هنگام پردازش داده‌ها دنبال یا ایجاد می‌کند، درک کنند.
پیتر کو (Peter Koo) دانشمند محاسبات و استادیار آزمایشگاه کلد اسپرینگ هاربر (Cold Spring Harbor) در ایالات متحده می‌خواست بفهمد هوش مصنوعی چگونه پاسخ‌های خود را با دقت تولید می‌کند. او به جای اینکه این را بداند و بپذیرد که خروجی هوش مصنوعی، درست یا دقیق تولید می‌شود، می‌خواست بفهمد که هوش مصنوعی چگونه پاسخ‌های خود را ایجاد می‌کند.
وی می‌گوید: اگر به جای حفظ کردن معادلات، قواعد کلی در مورد ریاضیات را بیاموزید، می‌دانید که چگونه آن معادلات را حل کنید؛ بنابراین به جای اینکه فقط آن معادلات را حفظ کنیم، امیدواریم که این مدل‌ها، حل آن را یاد بگیرند و اکنون می‌توانیم هر معادله‌ای را به آن بدهیم تا حل کند.
کو و گروهش، روشی برای یافتن الگو‌ها در پاسخ‌ها و پیش‌بینی‌های جامع ایجادشده توسط هوش مصنوعی ایجاد کردند. پژوهش‌ها اجازه داد تا پژوهشگران بفهمند کدام الگوریتم‌های هوش مصنوعی برای ایجاد پیش‌بینی در هنگام مطالعه ژنوم انسان بهتر عمل می‌کنند.
ژنوم انسان مجموعه‌ای از دی‌ان‌ای‌ها (DNA) است که در هر سلول یافت می‌شود و هر دی‌ان‌ای حاوی ۲۳ جفت کروموزوم در هسته سلول، همراه با کروموزوم‌های کوچک در میتوکندری سلول است.
ژنوم انسان در مجموع شامل سه میلیارد کد است که در هر فرد میلیون‌ها تنوع دارد. اگرچه انسان قادر نیست به سرعت تمام کد‌های دی‌ان‌ای را غربال کند، اما سیستم‌های هوش مصنوعی این توانایی را دارند. هوش مصنوعی همچنین می‌تواند فاکتور‌های مختلفی را که ممکن است انسان هنگام بررسی ژنوم از دست بدهد، شناسایی کند.
این فرآیند نوآورانه که از هوش مصنوعی برای تولید پاسخ‌ها استفاده می‌کند، مرحله‌ای را ایجاد کرده است که داده‌ها را توسط هوش مصنوعی پردازش می‌کند، اما برای پژوهشگران دشوار است که بفهمند چگونه پردازش می‌شود.
کو همچنین به مشکل در تعیین این که کدام الگوریتم جدید شکلی از یادگیری ماشینی که به هوش مصنوعی می‌گوید چگونه یاد بگیرد اشاره می‌کند، زیرا هوش مصنوعی، محاسباتی فراتر از ظرفیت انسان ایجاد می‌کند.
کو و گروه پژوهشی وی، یک فرآیند یادگیری ماشین محاسباتی جدید به نام GenOmic Profile-model compreHensive EvaluatorR که با نام گوفر (GOPHER) نیز شناخته می‌شود، ایجاد کردند. این یک روش جدید است که به پژوهشگران امکان می‌دهد بهترین برنامه هوش مصنوعی را برای تجزیه و تحلیل ژنوم انسان تعیین کنند.
این فرآیند به پژوهشگران اجازه می‌دهد تا الگوریتم‌های مختلف را بدون انتخاب تصادفی به صورت روش‌مند ارزیابی کنند.
برنامه‌های هوش مصنوعی بر اساس چهار معیار ارزیابی قضاوت می‌شوند که عبارتند از اینکه نرم‌افزار هوش مصنوعی چقدر زیست‌شناسی ژنوم انسان را یاد می‌گیرد، هوش مصنوعی تا چه حد الگو‌ها و ویژگی‌های مهم را پیش‌بینی می‌کند، چقدر توانایی مدیریت نویز پس زمینه دارد و میزان قابل تفسیر بودن تصمیم‌های آن چقدر است.
این سیستم جدید به این سوال پاسخ می‌دهد که چگونه هوش مصنوعی پیش‌بینی‌های خاص را ایجاد می‌کند.
زیکی تانگ (Ziqi Tang) از اعضای گروه پژوهشی می‌گوید: هوش مصنوعی همین الگوریتم‌های قدرتمندی است که برای ما سؤال‌ها را حل می‌کنند. یکی از مشکلات مهم آن‌ها این است که ما نمی‌دانیم آن‌ها چگونه به این پاسخ‌ها رسیده‌اند.
روش "گوفر" کمک کرد تا پژوهشگران، الگوریتم‌های هوش مصنوعی را کشف کنند و بفهمند که چگونه هوش مصنوعی پاسخ‌های قابل اعتماد و دقیق را تولید می‌کند. این سیستم ملزومات اصلی را برای ایجاد کارآمدترین الگوریتم‌های هوش مصنوعی شناسایی می‌کند.
پژوهشگران بر این باورند که گوفر، به بهینه‌سازی الگوریتم‌های هوش مصنوعی کمک می‌کند تا مردم اعتماد کنند که چیز‌های درست و ضروری را از خروجی هوش مصنوعی یاد می‌گیرند.
شوشان تونیان، یکی دیگر از اعضای گروه پژوهش می‌گوید: اگر الگوریتم به دلایل اشتباهی پیش‌بینی کند، مفید نخواهد بود.
پژوهشگران امیدوارند که روزی هوش مصنوعی بتواند با خواندن کد‌های ژنوم انسان، شیوع بیماری‌ها را پیش‌بینی کند و به منظور خواندن ژنوم انسان و درک آن، گوفر می‌تواند الگوریتم مورد استفاده توسط هوش مصنوعی را برای ایجاد پیش‌بینی ارزیابی کند.