جواب های عجیب هوش مصنوعی گوگل

گوگل به تازگی یک ویژگی جدید به نام "AI Overviews" را راه اندازی کرده است که توضیحات جامع و خودکاری را برای مفاهیم گوناگون از منابع آنلاین جمع آوری می کند، این ویژگی با هدف ارائه توضیحات ساده و روان برای مفاهیم پیچیده طراحی شده است.

با این حال، این سیستم با چالش های جدی روبرو است. گزارش ها حاکی از آن است که بسیاری از این توضیحات حاوی اطلاعات نادرست، چرندیات، اشتباهات خنده دار یا حتی محتوای نامناسب هستند، مخاطبان با خواندن این توضیحات گیج و سردرگم شده و گاهی اطلاعات خطرناکی را نیز دریافت می کنند.

این مشکلات ریشه در نقایص سیستم هوش مصنوعی گوگل دارد. هوش مصنوعی هنوز برای تفسیر و درک دقیق متون انسانی محدودیت هایی دارد که منجر به نتایج ناقص یا نادرست می شود، علاوه بر این، پیشرفت های اخیر در زمینه هوش مصنوعی GPT، سبب تشویق گوگل به عرضه سریع این ویژگی بدون حل کامل این مشکلات شده است.

در این مقاله قصد داریم به 17 مورد از این جواب های اشتباه بپردازیم:

1. خوردن فضولات بینی سیستم ایمنی بدن را تقویت می‌کند!!

سرچ در مورد "مزایای اشیاء در سلامتی ..." یکی از راه‌هایی است که پاسخ‌های جالبی از هوش مصنوعی گوگل دریافت می‌کنیم، زیرا این هوش مصنوعی برای جلب رضایت طراحی شده است. اگر سوالی را که فرض وجود مزایای سلامتی در آن گنجانده شده است، مطرح کنید، ممکن است پاسخی عجیب دریافت کنید، حتی اگر شواهدی در تأیید این فواید وجود نداشته باشد.

وقتی از گوگل درباره "فواید سلامتی خالی کردن بینی" پرسیده شد، پاسخ جالبی دریافت شد مبنی بر اینکه "خوردن ترشحات بینی ممکن است از پوسیدگی دندان، زخم معده و عفونت‌ها جلوگیری کند و همچنین سیستم ایمنی بدن را تقویت کند."

گوگل از کجا این حرف را گرفته است؟ وقتی به منابع ارائه شده در خلاصه هوش مصنوعی مراجعه کنیم میبنیم مهمترین آنها بخشی از مقاله ویکی‌پدیا در مورد خالی کردن بینی است که می‌گوید "برخی دانشمندان ادعا می‌کنند که خوردن ترشحات بینی فواید سلامتی برای بدن انسان دارد. فریدریش بیشینگر، پزشک متخصص ریه اتریشی، توصیه می‌کند با انگشتان خود ترشحات بینی را خارج کرده و آن را بخورید و می‌گوید افرادی که این کار را می‌کنند، 'تقویت طبیعی سیستم ایمنی' دریافت می‌کنند."

پانویس در ویکی‌پدیا به کتاب سال 2009 با عنوان "Alien hand syndrome and other too-weird-not-to-be-true stories" نوشته آلن بلوز اشاره می‌کند که امکان دسترسی آنلاین به آن وجود ندارد.  همچنین چند داستان دیگر نیز در سایر نشریات آنلاین مانند CBC وجود دارد که از گفته‌های بیشینگر نقل قول می‌کنند، اما چیزی توسط خود بیشینگر که ظاهراً دارای مطب تخصصی آلرژی در اتریش است، منتشر نشده است. اولین مقاله بلوز در این زمینه به سال 2005 برمی‌گردد و در یک وب‌سایت به نام Damn Interesting که خود او آن را اداره می‌کند، منتشر شده است.

از مقاله بلوز این طور به نظر می‌رسد که خود نویسنده با بیشینگر صحبت نکرده است، در آن آمده که: "دکتر بیشینگر گفته است: 'با انگشت می‌توانید به جاهایی برسید که با دستمال نمی‌توانید، و این باعث می‌شود بینی شما بسیار تمیزتر شود. و خوردن بقایای خشک آنچه که خارج می‌کنید، راه فوق‌العاده‌ای برای تقویت سیستم ایمنی بدن است.

بنابراین، در حالی که به نظر می‌رسد پزشکی به نام فریدریش بیشینگر وجود دارد، اما مشخص نیست که او این اظهارات در مورد خالی کردن بینی را به چه کسی و چه زمانی گفته است. اما اگر حتی برای لحظه‌ای فرض کنیم که این پزشک واقعاً معتقد است که خالی کردن بینی برای ایمنی بدن خوب است، باز هم بهتر است به مطالعات و مقالات مختلفی اعتماد کنیم که نشان می‌دهد خالی کردن بینی می‌تواند خطر ابتلا به باکتری‌های استافیلوکوکوس اورئوس در بینی یا انتشار استافیلوکوک طلایی از بینی به پوست را افزایش دهد.

در سراسر کره زمین، احتمالاً بتوانیم یک پزشک را پیدا کنم که معتقد است نوشیدن وایتکس برای شما خوب است، آیا این به این معنی است که توصیه این پزشک باید به عنوان پاسخ توسط گوگل ارائه شود؟

2. از نام و تاریخ تولدتان برای پسوردتان استفاده کنید تا آن را فراموش نکنید!

در این روزها که اخبار هک و دسترسی به اطلاعات کاربران بازار داغی پیدا کرده، این جواب گوگل نه تنها نادرست بلکه خطرناک است. اگر از یک متخصص امنیت در مورد پسورد سوال کنید، بلا استثنا همه آن ها قائل اند باید پسورد شما سخت و غیرقابل حدس باشد و از هیچ یک از المان های نام، تاریخ تولد یا نام اطرافیان و آشنایان شما نباید استفاده شود، اما وقتی از گوگل سوال می‌کنیم که چگونه پسوردمان را به خاطر بسپاریم، جوابی که می‌دهد این است که از نام و تاریخ تولد در پسورد استفاده کنیم.

3. استفاده منصفانه از دیتا در یادگیری

یکی از موضوعات بحث برانگیز در مورد هوش مصنوعی این است که آنها از متن، تصاویر، ویدیوها و صداهای موجود در اینترنت برای آموزش خود استفاده می کنند، اغلب بدون کسب اجازه از سازندگان محتوا این کار را انجام می‌دهند! شرکت های هوش مصنوعی مانند OpenAI ادعا می کنند که این آموزش یک نوع استفاده منصفانه است اما اکثر ناشران با این موضوع مخالف هستند.

وقتی از گوگل بپرسیم که "آیا داده های آموزشی استفاده منصفانه محسوب می شوند؟" گوگل پاسخ می‌دهد که "براساس قوانین کپی رایت ایالات متحده، استفاده از مواد عمومی اینترنت برای آموزش مدل های هوش مصنوعی به طور کلی استفاده منصفانه محسوب می شود."

استناد گوگل به "قوانین کپی رایت ایالات متحده" در اینجا گمراه کننده است، زیرا این ربات هوش مصنوعی نتیجه گیری خود را نه از یک وب سایت دولتی، بلکه از یک گروه حامی به نام انجمن کتابخانه های تحقیقاتی گرفته است که این موضع را برداشت کرده است.

در واقع، در حال حاضر دعاوی قضایی زیادی در جریان است تا مشخص شود که آیا آموزش واقعاً استفاده منصفانه محسوب می شود یا خیر، اما هوش مصنوعی گوگل، به نفع خودش، این موضوع را قانون تثبیت شده معرفی می کند.

4. مادربورد اشتباه

تصور کنید می‌خواهید سیستم خود را ارتقا دهید و اطلاعات زیادی از قطعات آن در دست ندارید، طبیعتا اولین کاری که انجام می‌دهید یک سرچ ساده در گوگل است تا مقداری اطلاعات به دست آورید.

بعد از یک سرچ ساده متوجه می‌‎شوید بهترین پردازنده مخصوص بازی ryzen 7800X3D است و دست بر قضا مادربورد شما نیز از برند AMD است و مدل آن نیز B550 است.

حال می‌خواهید بدانید که آیا مادربورد ما با این پردازنده قوی سازگاری دارد یا خیر؟ اگر همین سوال را از گوگل بپرسید، پاسخ می‌دهد که بله، شما می‌توانید از این مادربورد و این پردازنده با هم استفاده کنید، حال اگر شما مقداری از این قطعات اطلاع داشته باشید متوجه می‌شوید که این جواب 100 درصد غلط است.

B550 از سوکت AM4 استفاده می‌کند و Ryzen 7800X3D از سوکت AM5 استفاده می‌کند، نه تنها این دو سوکت هیچ سازگاری ای با هم ندارند بلکه در ظاهر نیز کاملا متفاوت اند، و اصلاً قادر نخواهید بود پردازنده یکی از این سوکت ها را در دیگری قرار دهید.

5. کدام USB سریع تر است؟

با این که گوگل منابع بسیاری در سایت های تکنولوژی برای پاسخ به این سوال ساده دارد، اما وقتی از او سوال شود که کدام USB سریع تر است، پاسخ می‌دهد USB 3.2 با سرعت 20 گیگابیت بر ثانیه

این جواب از دو جهت غلط است: اول این که الان USB 4 نیز آمده که به مراتب سریع تر از نسخه های قبلی است و می‌تواند به سرعت 120 گیگابیت بر ثانیه نیز برسد، درست است که این USB ها در بازار موجود نیستند اما سریع ترین USB موجود در بازار نیز به 40 گیگابایت سرعت دسترسی دارد که باز هم دو برابر آن چیزی است که گوگل گفته.

دوم این که تنها USB 3.2 ای که به 20 گیگابیت می‌رسد، USB 3.2 2x2 است نه همه مدل های USB 3.2. زیرا علاوه بر مدل بالا دو مدل دیگر نیز با نام های USB 3.1 Gen1 با سرعت 5 گیگابیت و USB 3.2 Gen2 با سرعت 10 گیگابیت داریم.

اگر در ادامه سوال قبل بپرسیم که آیا USB 3.2 Gen1 سریع تر است یا USB 3.0، گوگل پاسخ می‌دهد که USB 3.2 Gen1 سریع تر است در حالی که هردوی آن ها سرعتشان نهایت 5 گیگابیت است.

6. درمان درد آپاندیس در خانه

هنگامی که از گوگل پرسیدید "چگونه می‌توان درد آپاندیس را در خانه درمان کرد"، به شما توصیه شده است که برگ‌های نعناع را بجوشانید و یک رژیم غذایی پرفیبر داشته باشید. با این حال، این توصیه‌ها برای درمان آپاندیسیت مناسب نیست.

در مواردی، ممکن است قبل از جراحی، آنتی‌بیوتیک‌ها برای درمان عفونت تجویز شوند، اما در اکثر موارد، تنها راه درمان آپاندیسیت، برداشتن آپاندیس از طریق عمل جراحی است.

عدم درمان آپاندیسیت می‌تواند کشنده باشد، زیرا امکان پارگی آپاندیس و گسترش عفونت در بدن وجود دارد، پس اگر علائم آپاندیسیت مانند درد شکم، تهوع، استفراغ و تب را داشتید، باید بلافاصله به پزشک یا بیمارستان مراجعه کنید.

7. آیا می‌توانم از بنزین در مواد مورد نیاز غذایم استفاده کنم؟

همانطور که می‌دانید بنزین برای انسان سمی و کشنده است، اما وقتی از گوگل سوال شد که آیا می‌توان از آن به عنوان مواد اولیه غذایی استفاده کرد، گوگل پاسخ داد بله، در برخی دستورالعمل های غذایی می‌توان از بنزین استفاده کرد. احتمال زیاد منظور از استفاده برای درست کردن آتش مورد نیاز برای پختن غذا بوده اما گوگل نتوانسته مورد استفاده آن را نسبت به باقی مواد مورد نیاز تشخیص دهد و آن را ذیل مواد غذایی وارد کرده است.

8. پنیر پیتزا را با چسب به پیتزا بچسبانید!

احتمالا شنیده‌اید که هوش مصنوعی گوگل توصیه‌ای عجیب و باورنکردنی برای جلوگیری از لیز شدن پنیر روی پیتزا ارائه کرده است. این مسئله بسیار همه‌گیر شده و خیلی ها را گیج کرده است. هنگامی که عبارت "پنیر به پیتزا نمی‌چسبد" را جستجو کنید، گوگل توصیه‌های متعددی از جمله "حدود یک هشتم فنجان چسب غیرسمی را به سس اضافه کنید تا از به چسبندگی آن بیفزاید" را به شما پیشنهاد می‌دهد.

گوگل این توصیه آشپزی شگفت‌انگیز را از یک پست 11 ساله یک کاربر ناشناس ردیت گرفته است و تشخیص نداده که آیا این نظر او واقعی بوده یا سرکاری و محض خنده است.

9. چند تا سنگ بخورم؟

تصاویر زیادی از کاربران منتشر شد که از گوگل پرسیده بودند چند تا سنگ در روز بخورم؟ و گوگل جواب داده بود روزی 1 عدد. آنقدر این عکس ها فراگیر شد و صدای مردم را در آورد که گوگل به صورت دستی این جواب را حذف کرد. اما کاربران متوجه شدند که اگر به جای (بخورم) از واژه (مصرف کنم) استفاده کنند، باز همان جواب را به آن ها می‌دهد.

این جواب گوگل به وضوح شرح می‌دهد که هوش مصنوعی آن توانایی تشخیص مطالب واقعی از جوک و استعاره و مسخره بازی را ندارد و بسیاری از منابع خود را از این مطالب دریافت می‌کند.

منبع این مطلب نیز پیجی در ResFrac است که در پستی به صورت جک بین مخاطبان حرفه‌ای خود منتشر می‌کند و از آن جا که این سایت نزد گوگل سایت معتبری است، باعث شده مطلب منتشر شده آن نیز برای گوگل معتبر باشد با چشم پوشی از این که این مطلب به عنوان یک شوخی مطرح شده است.

10. فواید سلامتی تنباکو و جویدن تنباکو

هوش مصنوعی گوگل درباره فواید سیگار حرفی نمی‌زند اما درباره فواید تنباکو و جویدن تنباکو بیش از حالت عادی مطلب و حرف دارد. اگر در این باره از او سوال شود، لیست بلند بالایی از فواید سیگار برای شما می‌آورد که شامل افزایش عملکرد ورزشی و کاهش سرطان پوست نیز می‌شود.

درباره جویدن تنباکو نیز می‌گوید باعث کاهش استرس، کاهش درد، پاکسازی چشم ها و بهبود عملکرد خواب می‌شود. همچنین ادعا می‌کند این فواید بر اساس یک تحقیقات علمی است که بر روی افرادی انجام شده که از کشیدن سیگار دست کشیده و به جویدن تنباکو روی آوردند.

11. فواید جنگ اتمی، قربانی کردن انسان ها و کودک کشی

هوش مصنوعی گوگل قادر است از هر چیزی فایده بیرون بکشد، حتی اگر در مورد مسائل بالا نیز از او سوال شود حداقل یکی دو مورد فایده برای آن ها برای شما توضیح می‌دهد.

وقتی در مورد فواید جنگ اتمی سوال شد، بر اساس مقاله ای از دین برنت در گاردین این جواب را داد که باعث گونه های انسانی می‌شود و دیگر مشکل مهاجران غیرقانونی را نخواهیم داشت و دیگر شاهد سردرگمی اقتصادی نخواهیم بود.

برنت به وضوح در این مقاله داشته شوخی می‌کرده و منظور او دردسر های جامعه امروزی بوده که در این دوره با آن ها دست و پنجه نرم می‌کنند و در صورت بروز جنگ اتمی دیگر این مسائل مطرح نخواهد شد. او همچنین در مزایای کودک کشی و قربانی کردن انسان ها نیز مطالب مشابهی دارد که توسط هوش مصنوعی گوگل به اشتباه برداشت شده است.

12. مزایا و معایب کتک زدن کودکان

شاید باورتان نشود ولی کلمه (ادب کردن کودکان) در هوش مصنوعی گوگل جوابی نداشت ولی خود گوگل کلمه (کتک زدن) را به عنوان جایگزین پیشنهاد کرد و برای آن مزایا و معایب توضیح داد.

در دفاع از گوگل باید گفت طبق مقاله مجله سلامت، 81 درصد آمریکایی ها با ادب کردن کودکان خود موافق بودند درحالی که دانشمندان معتقد اند در طولانی مدت بر روی کودکان اثرات منفی زیادی دارد، و گوگل هر دو طرف این دعوا را توضیح داده است.

13. کدام دین وحشی گری بیشتری دارد؟

اصولا و اخلاقا هیچ شخص یا نهادی حق ندارد در این مورد اظهار نظر کند اما وقتی از گوگل سوال می‌شود جواب می‌دهد که: بعضی می‌گویند یهودیت و مسیحیت در کل از دیگر ادیان وحشی تر هستند.

همین که گوگل گفته بعضی می‌گویند باعث می‌شود کسی نتواند از شرکت گوگل بابت این اظهار نظر شکایت کند اما صرف بیان این مطلب در صفحه اصلی گوگل به عنوان تنها پاسخ ارائه شده جای تأمل دارد.

14. نسل D چند ساله هستند؟

در زبان انگلیسی نسل های مختلف انسان ها را با کلمات مشخص می‌کنند، برای مثال نسل Z یعنی آخرین نسل به دنیا آمده بشر که شامل کودکان و نوجوانان می‌شود.

حال اگر از گوگل درباره «نسل D» بپرسید (گروهی که وجود ندارد)، این پاسخ را دریافت می‌کنید: "نسل D، نسلی از افراد متولد شده بین سال های 1665 تا 1679 میلادی است"  این نشان می دهد که این سیستم ها در موارد عدم دسترسی به اطلاعات، برای ارائه پاسخ از طریق ساختن حقایق جدید و غیرواقعی عمل می کنند.

15. کدام رییس جمهور ها از دانشگاه ویسکانسین فارق التحصیل شدند؟

وقتی این سوال از گوگل پرسیده شود، حتی کسانی را نام می‌برد که هیچ وقت به آن دانشگاه نرفته اند و برای آن ها تاریخ هایی را به عنوان تاریخ فارق التحصیلی بیان می‌کند که پس از مرگشان است.

16. چند نفر از رییس جمهوران آمریکا مسلمان بودند؟

هوش مصنوعی گوگل در مقابل شایعات و فرضیه های توطئه آمیز کاملاً بی دفاع است و از تمامی آن ها به عنوان مطالب موثق استفاده می‌کند. وقتی از گوگل سوال بالا را می‌پرسیم او جواب می‌دهد باراک اوباما مسلمان بوده است در حالی که غلط بودن این مطلب و شایعه بودن آن برای تمامی دنیا روشن است.

17. چگونه 500 کلمه در دقیقه تایپ کنیم؟

وقتی این سوال از گوگل پرسیده شود، جوابش جوابی ساده به عنوان تمرین و روتین افزایش تمرکز و دقت برای افزایش سرعت تایپ است، اما مشکل این جاست که هیچ بشری نمی‌تواند 500 کلمه در دقیقه تایپ کند، این عمل از نظر فیزیکی غیر ممکن است. سریع ترین سرعت تایپ ثبت شده در دنیا 212 کلمه در دقیقه است.

تمامی این مطالب بیان شده نشان از ضعف هوش مصنوعی گوگل در تشخیص، پردازش و منابع اطلاعاتی خود دارد.

برای غلبه بر این چالش، گوگل باید در زمینه های پردازش زبان طبیعی، جمع آوری اطلاعات چند منبعی، و پاسخگویی به پرسش ها پیشرفت های بیشتری داشته باشد. همچنین باید بر کنترل کیفی و سرویس بازبینی بهتر تمرکز کند تا از انتشار اطلاعات نادرست اجتناب شود.

منبع: برگرفته از سایت تامزهاردور Tomshardware پیرامون 17 اشتباه هوش مصنوعی گوگل