هوش های مصنوعی که توهم می زنند و هذیان می گویند! - وبلاگ نازنین

به گزارش وبلاگ نازنین، دیجیاتو نوشت: معاون ارشد گوگل می گوید چت بات های هوش مصنوعی ممکن است دچار توهم و هذیان شوند و باید به این موضوع توجه ویژه ای داشت.

رئیس بخش موتور جستجوی گوگل در مصاحبه تازهی به تله های بالقوه استفاده از هوش مصنوعی در چت بات ها اشاره نموده است. او می گوید کاربران و شرکت ها باید مراقب باشند؛ چرا که این فناوری می تواند به پدیده ای موسوم به توهم و هذیان دچار گردد.

پراباکار رغوان، معاون ارشد گوگل و رئیس بخش موتور جستجو، اخیراً با روزنامه آلمانی Welt am Sonntag مصاحبه نموده است. رویترز می گوید در بخشی از این مصاحبه آمده است: این شکل از هوش مصنوعی که ما اکنون درحال حرف زدن درباره آن هستیم، گاهی اوقات می تواند به چیزی منتهی گردد که به آن توهم می گوییم.

رغوان شرح می دهد که سیستم های کامپیوتری با یاری هوش مصنوعی می توانند محتواهایی را فراوری نمایند که متقاعدنماینده به نظر می رسند، اما درحقیقت کاملاً ساختگی هستند. او می گوید یکی از وظایف اصلی آن ها در گوگل محدودسازی این مشکل به کمترین حد ممکن بوده است.

گوگل توسعه مسئولانه هوش مصنوعی را در پیش گرفته است

از زمان اعلام همکاری تازه مایکروسافت با OpenAI و پیاده سازی نسخه پیشرفته تر ChatGPT در بینگ و مرورگر اج، گوگل خطر را احساس نموده است و آن ها هم از فناوری هوش مصنوعی خود برای موتور جستجویشان پرده برداشته اند. رغوان می گوید: ما شرایط اضطرار را به وضوح حس می کنیم، اما درعین حال احساس مسئولیت هم می کنیم؛ قطعاً نمی خواهیم عموم کاربران را گمراه کنیم.

گوگل چند روز پیش از فناوری هوش مصنوعی تازهی به نام Bard پرده برداشت و بعد یک روز پس از رویداد مایکروسافت، دموی این فناوری را به نمایش گذاشت. بارد نسخه ای ساده شده از فناوری LaMDA است که می خواهد با یاری کاربران توسعه پیدا کند. بااین حال، اقبال عمومی نسبت به این فناوری چندان مثبت نبوده است.

هوش مصنوعی Bard در ویدیوی تبلیغاتی این فناوری به سؤال مطرح شده پاسخ نادرستی داد که این اتفاق باعث افت قابل توجه قیمت سهام این شرکت شد. برآوردها نشان می دهند که گوگل در یک روز 100 میلیارد دلار از ارزش سهام خود را از دست داده است.

227227