استفاده از هوش مصنوعی باید با مسئولیت‌پذیری باشد/فناوری علمی توأم با کاربست عملی

به گزارش خبرنگار گروه علم و آموزش ایرنا، هوش مصنوعی به عنوان هوشی که در انواع ماشین‌ها و ابزارآلات الکترونیک وجود دارد، در مقابل هوش انسان‌ها امروزه در بسیاری حوزه‌ها مطرح است. هوش مصنوعی از دهه ۵۰ میلادی؛ زمانی که مطرح شد و جایگاه دانشگاهی یافت تا امروز فراز و فرودهای مختلفی را طی کرد، به فضاهای دانشگاهی راه یافت، عده‌ای با آن به دلایل مختلف موافقت و عده‌ای مخالفت کردند و برخی مانند هر فناوری جدید دیگری آن را شامل فرصت‌ها و تهدیدهای متنوع دانستند.

چت جی پی تی که (ChatGPT) که از آن زیاد می‌شنویم فقط یکی از کاربردهای آن و جدیدترین مدل زبانی مبتنی بر هوش مصنوعی ارائه شده توسط یک شرکت فناوری تحقیقاتی آمریکایی است که می‌تواند هر سوالی را جواب دهد و هنوز نیامده دستیار بسیاری متخصصان در حوزه‌های رایانه و برنامه‌نویسی شده است. برخی مانند همیشه با آن مخالفت کرده‌اند زیرا تصور می‌کنند این فناوری باعث بیکاری انسان‌ها می‌شود و تمایز میان هوش مصنوعی و هوش انسانی را دشوار می‌سازد.

بسیاری از کارشناسان در ایران خواستار بررسی و تحقیقات بیشتر در این زمینه شده‌اند و معتقدند این حوزه یکی از لبه‌های دانش در آینده است که در فناوری ظهور و بروز خواهد یافت و اگر امروز به فکر برنامه‌ریزی و تشکیل زیرساخت‌های آن نباشیم، فردا دیر است.

برای نمونه محمدمهدی زاهدی که خود وزیر علوم بوده (۱۳۸۴ تا ۱۳۸۸) و استاد ریاضی دانشگاه تربیت مدرس و دانش آموخته دکترای ریاضی و عضو کمیسیون آموزش و تحقیقات است، در گفت‌وگویی با ایرنا خواستار تشکیل وزارتخانه هوش مصنوعی شده بود و مدیرکل دفتر برنامه‌ریزی آموزش عالی وزارت علوم نیز از تشکیل میز تخصصی هوش مصنوعی در معاونت آموزشی این وزارت‌خانه خبر داد.

پژوهشگاه علوم و فناوری اطلاعات ایران (ایرانداک) یکی از مراکز تحقیقاتی وابسته به وزارت علوم است که در زمینه علم سنجی و دانش اطلاعات، همچنین گردآوری داده‌های مرتبط تحقیقاتی در حوزه‌های پایان‌نامه و رساله فعالیت می‌کند. این پژوهشگاه همچنین حوزه‌های جدید دانش و فناوری و کلان‌روندهای جهانی را در این زمینه زیرنظر دارد.

محمد حسن‌زاده مدیر این پژوهشگاه، دانش‌آموخته رشته علم اطلاعات و دانش‌شناسی است و در زمینه مدیریت پژوهش، نظام‌های دانش، علم‌سنجی و ارزیابی نظام‌های علم و فناوری مطالعه و پژوهش می‌کند. با وی در مورد هوش مصنوعی، ضرورت‌های قانونی پیرامون آن و اقدامات ایرانداک برای تبیین انواع هوش مصنوعی و جایگاه آن گفت‌وگو کرده‌ایم.

وی معتقد است هوش مصنوعی به‌زودی در همه حوزه‌های فناورانه دست برتر را خواهد داشت و دلیل این امر سرمایه‌گذاری نسبتا کم برای توسعه هوش مصنوعی و دیگری فناوری توام با کاربست عملی است. حسن‌زاده همچنین در مورد ضرورت تنظیم‌گری در این حوزه باور دارد باید سه اقدام انجام شود؛ مقررات مقابله با تقلب باید به گونه‌ای روزآمد شود که این موضوع را هم دربر بگیرد و فناوری‌هایی داشته باشیم که از آنها برای شناسایی نقش هوش مصنوعی استفاده کنیم و بُعد دیگر آموزش و توانمندسازی است.

مدیر پژوهشگاه علوم و فناوری اطلاعات ایران (ایرانداک) در گفت‌وگو با خبرنگار گروه علم و آموزش ایرنا در مورد هوش مصنوعی اظهار داشت: هوش مصنوعی یکی از دستاوردهای مهم علمی و فناورانه‌است که بین روندهای اصلی علم و فناوری در سال‌های ۲۰۲۲ تا ۲۰۲۴ قرار گرفته و در سال‌های آتی همچنان به عنوان یکی از مهمترین حوزه‌ها باقی خواهد ماند. از منظر انتشارات و اسناد علمی در سال‌های گذشته، آثار علمی در این حوزه به‌شدت افزایش یافته و در سطح بین‌المللی از سال ۱۹۹۶ تا ۲۰۲۳ در مجلات نمایه شده در پایگاه اسکوپوس، در مجموع یک میلیون و ۴۴۱ هزار و ۸۵۷ مدرک علمی (مقاله) در زمینه هوش مصنوعی منتشر شده است. سهم ایران از انتشارات دنیا با ۱۷ هزار و ۹۴۲ مدرک علمی حدود ۱.۲۴ درصد بوده و در رتبه پانزدهم جهان قرار دارد.

این درحالی است که کشورهایی؛ مانند هلند، ترکیه، روسیه، سنگاپور، لهستان، سوئیس و پرتغال بعد از ایران قرار دارند. البته سهم ایران در مدارک علمی مرتبط با هوش مصنوعی از سهم مربوط به دوره مشابه از کل مقالات ۱.۰۲ درصد بالاتر است.

ویژگی‌های هوش مصنوعی

سهم ایران از مجموعه مقالات منتشر شده در زمینه هوش مصنوعی در جهان نشان می دهد حداقل در سطح پژوهش، همزمان با کشورهای دیگر به این حوزه مهم پرداخته شده است. یعنی پژوهشگران ما با مساله‌ای که پیش‌روی کل جهان است، مواجهه منطقی و بموقع داشته اند، این مساله را تحلیل و بررسی کرده، یافته‌های خود را منتشر کرده و با دانشمندان دیگر به اشتراک گذاشته‌اند.وی هوش مصنوعی را به عنوان یک روند واجد ویژگی‌هایی دانست که آن را با کل روندها متمایز می‌کند و افزود: هوش مصنوعی صرفا یک یافته علمی نیست، هوش مصنوعی یافته علمی توام با کاربست عملی است. برای نمونه یافته‌های علمی در بسیاری شاخه‌های علم بعد از مدتی و با تاخیر ممکن است به کاربست علمی تبدیل ‌شود؛ ولی هوش مصنوعی از همان روز اول که شکل گرفت با توجه به اینکه با بُعد نرم فناوری ارتباط دارد، سریع‌تر از سایر حوزه‌ها به کاربست تبدیل شد و هر روزه شاهد کاربست آن در زمینه پزشکی، کشاورزی، مدیریت شهری و سایر عرصه‌های تولید هستیم که امروزه مردم خیلی در قالب نرم‌افزارهای هوشمند؛ مانند چت جی‌پی‌تی یا سایر کاربردهای هوش مصنوعی باز یا ابزارهای مرتبط با هوش مصنوعی باز/ open AI ارتباط برقرار می‌کنند.

استاد دانشکده مدیریت و اقتصاد دانشگاه تربیت مدرس ادامه داد: ویژگی دیگر هوش مصنوعی این است که محدود به یک حوزه فناوری نیست، شیرازه تمام فناوری‌های آینده است و در آینده هیچ فناوری نخواهیم داشت که با هوش مصنوعی در ارتباط نباشد؛ خودروسازی، پزشکی، ابزار دقیق، نظامی‌گری و همه حوزه‌ها به هوش مصنوعی وابسته خواهند بود. زیرا هوش مصنوعی در واقع گرته‌برداری از هوش انسانی در سایر عرصه‌هاست. بنابراین هر جایی که هوش انسانی کاربرد داشته است، هوش مصنوعی با دو ویژگی جایگزین آن می‌شود؛ سرعت و دقت.

وی سومین ویژگی هوش مصنوعی را بازگشت سریع سرمایه دانست و گفت: دستیابی به هوش مصنوعی با سرمایه‌گذاری‌های کمتر و زیرساخت‌های مناسب‌تر هم امکان‌پذیر است و این باعث شده هوش مصنوعی امروزه یک فناوری با گستره عمومی در نظر گرفته شود و همگان در توسعه آن به‌ویژه در کاربرد نرم آن مشارکت دارند.

حسن‌زاده نتیجه گرفت: این سه ویژگی باعث شده هوش مصنوعی در سطحی بالاتر از سایر روندهای فناوری کنونی در جهان قرار گیرد و به همین دلیل نیز دولت‌ها و سیاستگذاران در سطح ملی و بین‌المللی از آن بهتر استقبال کرده اند؛ برای نمونه دبیر کل سازمان ملل متحد در پی تشکیل کمیته‌ای برای بررسی دقیق‌تر کارکردهای کنونی و آینده هوش مصنوعی در آینده جهان است یا چین سرمایه گذاری هنگفتی در زمینه هوش مصنوعی اعلام کرده یا در برخی کشورها وزارت‌خانه‌ای برای هوش مصنوعی ایجاد شده است. بنابراین اگر بخواهیم سرآمدی خود را در حوزه علم و فناوری نوین حفظ کنیم، باید سرآمدی خود را در پژوهش، فناوری و تجاری‌سازی در عرصه‌ هوش مصنوعی حفظ کنیم.

ضرورت تنظیم‌گری در هوش مصنوعی

وی در پاسخ به اینکه چطور می‌توان از این فرصت فناورانه با اتخاذ قوانین مشخص بیشتر استفاده کنیم و کدام نهادها مسئول هستند، گفت: از آنجا که هوش مصنوعی با ابعاد مختلف فردی و اجتماعی زندگی ارتباط دارد موضوعی فوق ‌حساس طبقه‌بندی می‌شود و به همین دلیل به موضوع تنظیم‌گری در این فناوری باید به شدت توجه شود.

حسن‌زاده با بیان موضوع هوش مصنوعیِ پاسخگو/ responsible AI گفت: این موضوع در دنیا به این معناست که کاربست هوش مصنوعی حتما باید توام با مسئولیت‌پذیری و پاسخگویی از نظر اخلاقی و حقوقی باشد و در غیراین صورت مخرب است. در سطوح ملی و بین‌المللی تاکید بر این است که تنظیم‌گری برای هوش مصنوعی وجود داشته باشد و نمونه‌هایی از این امر را با مطرح شدن چت جی‌پی‌تی یا مدل‌های بزرگ زبانی مشاهده کردیم که برخی کشورها درهای خود را روی برخی کاربست های این فناوری بستند؛ زیرا احساس کردند این فناوری خدماتی ارائه می‌دهد که از یک سو مالکیت افراد و شرکت‌ها و کسب‌وکارها را نادیده می‌گیرد و از دیگر سو ممکن است خطاهایی رخ دهد که تبعات جبران‌ناپذیری داشته باشد.

ایتالیا یکی از کشورهاست که چنین رویکردی اتخاذ کرد، همچنین در برخی ایالت‌های آمریکا تلاش کردند ممنوعیتی برای ورود این فناوری به مدارس وضع کنند. اتحادیه اروپا نیز از حدود چهار ماه قبل تصویب قانون هوش مصنوعی را آغاز کرد و گفته می‌شود نخستین قانون جامع جهانی در زمینه هوش مصنوعی است. این قانون می خواهد اطمینان حاصل کند سامانه های مبتنی بر هوش مصنوعی در اتحادیه اروپا سالم، شفاف، قابل رهگیری و سازگار با محیط زیست هستند. درکل، این امر نشان می‌دهد هوش مصنوعی به عنوان مساله‌ای پیش‌روی قانون‌گذاران و دغدغه‌ای برای کسب‌وکارهاست.

هوش مصنوعی و سوالات بی‌شمار

وی یادآور شد: جنبه‌های مختلفی از هوش مصنوعی باید تحت تنظیم‌گری انجام شود. برای نمونه اگر عملیاتی به کمک هوش مصنوعی انجام می‌شود باید بدانیم مسئولیت عمل با چه کسی است. مسئول این اقدام، عامل هوشمند یا سازنده عامل هوشمند است. ممکن است هوش مصنوعی استدلال‌هایی کند که استفاده‌کننده‌ها و کاربران بر اساس آن دچار ضرر شوند. چه عاملی ضرر را جبران می‌کند. همچنین برای نمونه ممکن است هوش مصنوعی در زمینه پزشکی استفاده شود و در نتیجه خطایی رخ دهد، مسئول خطا چه کسی است؟ پزشک، سازندگان فناوری یا ابزار هوشمند.

مدیر ایرانداک ادامه داد: هوش مصنوعی برای انجام برخی کارها به عنوان تحلیلگر و استنباط‌گر از مجموعه داده‌های موجود در اینترنت استفاده می‌کند که به هوش مصنوعی باز مشهور است. این نوع هوش مصنوعی با استفاده از داده‌های موجود در فضای اینترنت و الگوریتم‌های هوش مصنوعی داده گرداوری، استدلال و در اختیار کاربران قرار می‌گیرد. این کاربرد هوش مصنوعی برای مردم بسیار محبوب است و روزانه کاربران بسیاری از سنین مختلف با آن کار می کنند. این سوال مطرح است که دسترسی به داده تا چه حد باید باشد، وقتی داده در دسترس باشد و استدلال صورت می‌گیرد نفع صاحبان داده‌ای که منجر به این محصول، خدمت یا استدلال می شود، کجاست. همه این چالش‌ها باید مورد توجه قرار گیرد.

هوش مصنوعی خلاق/ generative AI، محصولی می‌سازد که از قبل وجود نداشته است، اما این سوال مطرح است که حد و مرز این سازندگی کجاست. چه چیزی را باید بسازد؟ در حالت معمول، چنانچه کسی حرفی بزند که حرفش در تضاد با آموزه‌ها، اعتقادات یا نفع جمعی باشد، باید در دادگاه در این مورد توضیح دهد؛ ولی اگر هوش مصنوعی این کار را کند و تضاد وجود داشته باشد یا آسیبی وارد شود، چه برخوردی باید با هوش مصنوعی شود. مجازات مانند مجازات یک شخص نیست و باید محدودیت‌های این موضوع را شناخت.

حسن‌زاده با اشاره به الزامات علمی انجام مراحل دانشگاهی مانند نوشتن مقاله و پایان‌نامه گفت: اگر عامل هوش مصنوعی مدرک علمی را تهیه کرده باشد، چطور باید با او مواجهه داشت و حد و مرز استفاده از فناوری‌های مرتبط با هوش مصنوعی تا کجا مجاز است؟ چطور شناسایی کنیم شخص کار را انجام داده یا هوش مصنوعی؟

اقدامات نهادهای تحقیقاتی و مسئول مدیریت اطلاعات پژوهش

این موضوعات برای نهادهایی مانند ایرانداک (که مدیریت اطلاعات پژوهش انجام می‌دهند) مطرح است؛ یک شخص تا کجا می‌تواند از هوش مصنوعی برای تدوین یک اثر استفاده کند؟ اگر شخص استفاده کرد چگونه این موضوع را شناسایی کنیم؟ اگر شناسایی کردیم بر اساس چه موازین قانونی و حقوقی عمل کنیم و اصولا عکس‌العمل ما چه باید باشد؟

وی درباره یکی از وظایف ایرانداک؛ یعنی اجرای قانون پیشگیری و مقابله با تقلب در تهیه آثار علمی اظهار داشت: شناسایی تقلبی که هوش مصنوعی مرتکب شده، مساله دشوار و چالش‌برانگیزی است. در مرحله بعد تعیین سهم عامل هوشمند و انسان و دست آخر چگونگی برخورد مطرح است. برای پاسخ به این مسائل باید سه اقدام انجام شود؛ اولا، مقررات مقابله با تقلب باید به گونه‌ای روزآمد شود که این موضوع را هم دربرگیرد و از سوی دیگر باید فناوری‌هایی داشته باشیم که از آنها برای شناسایی نقش هوش مصنوعی استفاده کنیم.

استاد دانشگاه تربیت مدرس تصریح کرد: بُعد دیگر آموزش و توانمندسازی است. هوش مصنوعی در ذات خود امر بد و مخربی نیست و یکی از دستاوردهای گران‌قیمت و گران‌بهای تلاش‌های مستمر انسانی است و باید از آن استفاده کرد و استفاده آن نیازمند ارتقای آگاهی اعضای جامعه است.

آزمایشگاه هوش مصنوعی در ایرانداک

وی در مورد اقدامات ایرانداک در این زمینه گفت: پژوهشگاه علوم و فناوری اطلاعات ایران (ایرانداک) برگزارکننده اولین وبینار هوش مصنوعی و مدرسه هوش مصنوعی بوده است که با استقبال روبرو شد و اکنون درخواست‌های زیادی برای تکرار این دوره‌ها داریم. به همین دلیل، مدرسه هوش مصنوعی را راه اندازی کردیم که با حضور متخصصان از حوزه های مختلف به آموزش و توانمندسازی می‌پردازد. همچنین در پژوهشگاه، آزمایشگاه هوش مصنوعی را تاسیس کردیم. هدف این آزمایشگاه این است که علاوه بر مشارکت در دانش و فناوری این حوزه، جدیدترین یافته‌های هوش مصنوعی را در عرصه عمل به کار گیرد و به عنوان یک بازوی علمی و فناورانه در کنار پژوهشگاه باشد. نیاز داریم درآینده با توانایی بیشتر از این فناوری در مسیر رشد و آگاهی استفاده کنیم و به سیاستگذاران و برنامه‌ریزان کشور هم یاری برسانیم تا برنامه‌های مناسبی را در این زمینه تدوین کنند.

حسن‌زاده در مورد ارائه نتیجه تحقیقات به نهادهای سیاست‌گذار یادآور شد: سرعت رشد فناوری در این زمینه بسیار بالاست. امروز از هوش مصنوعی باز یا مدل‌های بزرگ زبانی جدید صحبت می‌کنیم، اگر ۶ ماه قبل با هم در مورد هوش مصنوعی صحبت می‌کردیم اصلا چنین موضوعی نمود برجسته نداشت ولی امروز وجود دارد و عموم مردم و نه فقط یک قشر خاص از آن استفاده می‌کنند.

پیشنهادات خود را آماده و ارائه می‌کنیم

وی گفت: بنابراین هنوز مقرراتی را پیشنهاد نکرده‌ایم و در حال ارزیابی وضعیت هستیم تا پیشنهاداتی را ارائه دهیم. البته در نهایت وظیفه ما پیشنهاد دادن است ولی مراکز تقنینی چارچوب مشخص خود را دارند و باید احراز کنند که موضوعی نیاز به قانون دارد و چطور باید در مورد آن عمل کرد.

مدیر ایرانداک گفت: در حال آماده سازی پیشنهادات خود هستیم؛ ولی مراکز تقنینی هم در این زمینه فعال هستند و برای نمونه در مجلس شورای اسلامی کارهایی در زمینه هوش مصنوعی آغاز شده است.

وی در مورد تاسیس یک وزارتخانه برای رسیدگی به همه موضوعات مرتبط با هوش مصنوعی گفت: این امر در کشورهای دیگر هم اتفاق افتاده است، وزارت هوش مصنوعی و اقتصاد دیجیتال و اپلیکیشن‌های کار از راه دور در امارات متحده عربی شکل گرفته و موضوعاتی؛ مانند هوش مصنوعی، بلاک‌چین و غیره را تحت پوشش قرار می‌دهد. هوش مصنوعی به طور کلی پدیده‌ای است که سازوکار مشخصی می‌طلبد.

حسن زاده تاکید کرد: اما نکته ظریفی وجود دارد که باید به آن توجه شود و آن هم اینکه اگر هوش مصنوعی را به یک وزارتخانه بسپاریم، ممکن است در مواردی در آینده مشکل‌ساز شود. مثل اینکه مسئولیت هوش مصنوعی به عهده یک وزارتخانه باشد در حالی که همه وزارتخانه ها و اقشار جامعه به صورت مبنایی با آن در ارتباط هستند و در توسعه آن دخیل اند. البته شاید در سطح مثلا قانون‌گذاری یک وزارتخانه بتواند همفکری و شبکه سازی کند و غیره؛ ولی در نهایت هوش مصنوعی امری فراوزارتخانه‌ای است و باید عمیق‌تر به آن نگاه کرد و در دستور کار همه دانشگاه‌ها مراکز پژوهشی و سازمان‌ها قرار داد.

وی افزود: اگر ساختاری شبیه وزارت‌خانه وجود داشته باشد، منافع زیادی دارد و نقطه شروع برای این پدیده جدیدی است که با سرعت در حال طی شدن هست و باید با آن مواجهه منطقی، عقلانی و سازنده داشته باشیم.