گوگل از هوش مصنوعی برای پاسخ دادن به سوالات مرتبط با سلامتی استفاده می کند. برخی از تحلیلگران با توجه به اینکه ویژگی AI Overview می تواند اطلاعات غیر قابل اعتمادی ارائه دهد، این را نگران کننده می دانند.
پزشکان می گویند که بررسی اجمالی هوش مصنوعی می تواند نگران کننده باشد، به خصوص در هنگام پاسخ دادن به سؤالاتی در مورد سلامت شخصی. طبق گزارش اخیر نیویورک تایمز، این ویژگی پتانسیل ارائه اطلاعات نادرست را دارد، اگرچه می تواند افراد را به سمت مراقبت های پزشکی مورد نیاز راهنمایی کند.
خطای جستجوی مرورهای هوش مصنوعی به احساس توهمات هوش مصنوعی دامن می زند
گوگل AI Overviews را معرفی کرد، قابلیتی که خلاصه‌ای از محتوا را از وب‌سایت‌ها تولید می‌کند و آنها را در صفحه نتایج جستجوی Google نمایش می‌دهد. در عرض چند روز پس از راه اندازی، این ویژگی طیف گسترده ای از عدم دقت را نشان داد، زیرا پاسخ های خود را بر اساس منابع نادرست استوار کرد. رویدادی که این احساس را بیشتر می‌کند که هوش مصنوعی مستعد توهم است و می‌تواند اطلاعات واقعی نادرست تولید کند.
همچنین بخوانید: گوگل مرورهای هوش مصنوعی را برای پرس و جوهای طنز و بی معنی محدود می کند
نتایج جستجوی مرتبط با سلامتی که روزانه دوز سنگ را تجویز می‌کنند یا از کاربران می‌خواهند پیتزاهای چسبناک بخورند، واکنش‌های منفی را به همراه داشته است. AI Overviews به منابعی مانند سازمان بهداشت جهانی، WebMD، PubMed و Mayo Clinic اشاره می کند. با این حال، آنها به این منابع محدود نمی شوند. تحلیلگران می گویند این ابزار اطلاعات را از Reddit، Wikipedia، چندین وبلاگ و سایت های تجارت الکترونیک استخراج می کند.
Hema Budaraju، مدیر ارشد مدیریت محصول گوگل، گفت که موانع بیشتری برای سوالات مرتبط با سلامت وجود دارد، اما او از افشای جزئیات بیشتر خودداری کرد. Hema افزود که برخی از پرس و جوها مرورهای کلی هوش مصنوعی را راه اندازی نمی کنند، برای مثال، اگر سیستم یک وضعیت آسیب رساندن به خود را تشخیص دهد.
گوگل گفت که AI Overviews با Google Knowledge Graph، یک پایگاه دانش حاوی داده‌های استخراج‌شده از منابع مختلف، ادغام می‌شود، اما جزئیاتی را در مورد وب‌سایت‌هایی که خروجی ویژگی جستجو با کمک هوش مصنوعی را پشتیبانی می‌کنند، ارائه نکرد.
گوگل مرورهای اجمالی هوش مصنوعی بیشتری را برای پرس و جوهای سلامت نشان می دهد
نتایج سنتی که اغلب «ده پیوند آبی» نامیده می‌شود، برای کاربران مفید بود، زیرا می‌توانستند بین منابع پزشکی معتبر و پیوندهای پولی یا وب‌سایت‌های کمتر معتبر تمایز قائل شوند. با مرورهای هوش مصنوعی، سناریو تغییر کرده است. اکنون، یک بلوک متنی اطلاعات جمع‌آوری‌شده از چندین منبع را نشان می‌دهد که به گفته تحلیلگران گیج‌کننده است.
کیت کنیبز از Wired در یک پادکست گفت:
"اگر چیزی را در مورد آسم تایپ می کنید یا من دیابت دارم یا اساساً اگر به دنبال چیزی مرتبط با بیماری هستید، به احتمال زیاد امروز هم یک مرور کلی از هوش مصنوعی خواهید دید. منظورم این است که همه اینها نیستند؛ هنوز حدود 63٪ است. و من فکر می کنم بستگی دارد."
برخی از پزشکان مانند دکتر داریوش مظفریان می گویند که مرورهای هوش مصنوعی برخی حقایق درست را نشان می دهد و آنها را در پاسخ خلاصه می کند، اما بین شواهد حاصل از مطالعات مشاهده ای و کارآزمایی های تصادفی تفاوتی قائل نمی شوند.
هنگامی که این ویژگی اطلاعات را اشتباه می کند، لایه دیگری از اطلاعات نادرست اضافه می شود. به عنوان مثال، "چای سبز حاوی آنتی اکسیدان است و به پیشگیری از سرطان کمک می کند." در حالی که اولی درست است، دومی از نظر بالینی ثابت نشده است. وقتی چنین ادعاهایی با هم فهرست می شوند، این تصور نادرست را ایجاد می کنند که معتبر هستند.
گوگل بررسی های کلی هوش مصنوعی را محدود کرده است
افرادی که اجرای هوش مصنوعی را مشاهده می کنند، هنگام نزدیک شدن به نتایج تحقیقات هوش مصنوعی مرتبط با سلامت، احتیاط را توصیه می کنند. آنها می گویند که کاربران باید در برخی از پاسخ هایی که می گویند، "این فقط برای اهداف اطلاعاتی است"، چاپ دقیق را در نظر بگیرند. گزارش NYTimes اشاره کرد که هوش مصنوعی مولد در مرحله آزمایشی است و کاربران باید در هر شرایط جدی با پزشک مشورت کنند.
همچنین بخوانید: به‌روزرسانی‌های الگوریتم اصلی گوگل و بررسی‌های اجمالی هوش مصنوعی، ترافیک ناشران را کاهش می‌دهند
گوگل در بیانیه‌ای در 30 می گفت که استفاده از مرورهای هوش مصنوعی را در برخی دسته‌ها کاهش داده است. داده‌های یک شرکت SEO، Brightedج، موضع گوگل را تایید می‌کند و نشان می‌دهد که کاهش حتی قبل از اعلام این شرکت آغاز شده است.
گزارش‌های دیگر همچنین ادعا می‌کنند که گوگل شروع به بازگرداندن مرورهای هوش مصنوعی برای دسته‌های خاص کرده است، حتی قبل از اینکه کاربران اینترنتی به دلیل پاسخ‌های بی‌معنی، آن را به سخره بگیرند. با این حال، ادعا می شود که دسته بهداشت همچنان تعداد بالایی از بررسی های کلی هوش مصنوعی را نشان می دهد. Knibbs می گوید:
"من با سایر محققان سئو صحبت کردم که متوجه شده بودند صنعت مراقبت های بهداشتی هنوز هم مرورهای کلی هوش مصنوعی زیادی تولید می کند."
Knibbs می‌گوید که چند جستار مرتبط با سلامتی را آزمایش کرده و نتایج متفاوتی را در چند ساعت پس از تلاش پیدا کرده است که نشان می‌دهد گوگل در تلاش برای بهبود نتایج است. او گفت: "باشه، آنها تلاش می کنند. نمی دانم آنها به اندازه کافی کارشان را خوب انجام می دهند یا نه، اما قطعا تلاش می کنند.
گزارش رمزارز توسط عامر شیخ
