کارشناس هوش مصنوعی: هذیان‌گویی «چت‌بات‌ها» باید کنترل شود

هادی کلماتی روز جمعه در گفت و گو با خبرنگار ایرنا افزود: چت‌بات‌ های هوش مصنوعی، برنامه‌های کامپیوتری پیشرفته‌ای هستند که قادرند مکالمات شبیه به انسان را انجام دهند. این ربات‌ها با استفاده از الگوریتم‌های پیچیده یادگیری ماشین، قادر به درک زبان طبیعی، پاسخگویی به سوالات، انجام وظایف مختلف و حتی ایجاد محتوای خلاقانه هستند.

وی بیان کرد: از این رو چت بات‌ها در صنایع مختلفی همچون خدمات مشتری، آموزش، سرگرمی و تجارت الکترونیک کاربرد دارند و با پیشرفت تکنولوژی، روز به روز بر قابلیت‌ها و پیچیدگی آن‌ها افزوده می‌شود.

این مدیر عامل شرکت دانش بنیان ادامه داد: بر این اساس هذیان‌گویی یا تولید محتوای نادرست توسط چت‌بات‌ها می‌تواند به یک مشکل جدی تبدیل شود، به ویژه زمانی که این محتوا در خصوص شخصیت‌های مهم و یا افراد مشهور باشد.

وی اظهار کرد: چت‌بات‌های هوشمند باید به گونه‌ای برنامه‌ریزی شوند که در صورت عدم دسترسی به اطلاعات کافی، از تولید محتوای نادرست خودداری کنند و به جای آن با عذرخواهی، کاربر را به منابع معتبر دیگر ارجاع دهند.

کلماتی تصریح کرد: در غیر این صورت ممکن است اطلاعاتی تولید شود که با واقعیت مطابقت نداشته و مشکلاتی را نیز برای افراد یا سازمان‌ها ایجاد کند.

وی با اشاره به تلاش شرکت‌های کوچک برای توسعه مدل‌های زبانی تخصصی، گفت: این شرکت‌ها سعی می‌کنند با تقویت پایگاه دانشی متناسب با نیاز مشتریان، پاسخ‌های با کیفیت‌تری ارائه دهند، این مدل‌ها معمولاً نیازی به دسترسی دائمی و اطلاعات روزانه ندارند و بر اساس داده‌های از پیش آموزش‌دیده شده عمل می‌کنند.

این کارشناس هوش مصنوعی اضافه کرد: هدف اصلی این شرکت‌ها کاهش وابستگی به کاربران انسانی و استفاده بهینه از نیروی کار در بخش‌های دیگر است. با این حال، دسترسی به اطلاعات به‌روز و آنلاین برای برخی کسب‌ و کارها ضروری است، اما این فرآیند هزینه‌بر و زمان‌بر است و حتی شرکت‌های بزرگی مانند Open AI نیز از این روش به طور کامل بهره نمی‌برند.

وی اظهار کرد: استفاده از API ها به عنوان رابط‌های برنامه‌نویسی کاربردی، می‌تواند به مدل‌های زبانی کمک کند تا به داده‌های به‌ روز دسترسی داشته باشند.

کلماتی ادامه داد: این رابط‌ها به توسعه‌ دهندگان اجازه می‌دهند تا قابلیت‌های هوش مصنوعی را در سیستم‌های خود ادغام کنند و از اطلاعات پایگاه دانش و موتورهای جستجو همانند گوگل به صورت محدود و برنامه‌ریزی شده استفاده کنند.

وی به تفاوت مدل‌های زبانی عمومی و تخصصی در چت بات ها اشاره و اظهار کرد: مدل‌های عمومی مانند GPT-3 و گوگل بارد برای انجام طیف وسیعی از وظایف طراحی شده‌اند، اما مدل‌های تخصصی بر روی داده‌های خاص آموزش دیده‌اند و برای کاربردهایی مانند تحلیل احساسات، استخراج کلیدواژه‌ها و تولید محتوای متناسب با پایگاه دانش خاص بهینه‌سازی شده‌اند.

این کارشناس هوش مصنوعی با اشاره به ساخت دستیار مجازی هوشمند ایرانی با نام «یارابات» که تطبیق‌پذیری زیادی با زبان‌ فارسی دارد، گفت: این چت‌بات به آدرس، با بهره‌گیری از فناوری‌های پیشرفته هوش مصنوعی و زبان طبیعی طراحی شده و هدف آن ارائه خدمات نوین و تسهیل ارتباطات برای کاربران فارسی‌زبان است.