پژوهشی از محققان دانشگاه فودان نشان می‌دهد ابزارهای جست و جوی مبتنی بر هوش مصنوعی ممکن است به محتوایی استناد کنند که عمداً برای آزمایش منتشر شده و موضوع آن اساساً وجود خارجی ندارد. در این آزمایش، هشت ابزار از ده ابزار بررسی‌شده ظرف یک هفته به یک مفهوم ساختگی ارجاع دادند، یافته‌ای که پرسش‌هایی جدی درباره اعتبار منابع در جست‌وجوی هوش مصنوعی و آینده بهینه‌سازی محتوا برای این ابزارها مطرح می‌کند.
یک مفهوم ساختگی چگونه وارد پاسخ هوش مصنوعی شد؟
در اکتبر ۲۰۲۶، پژوهشگران دانشگاه فودان چین مطالعه‌ای با عنوان From Public Posts to AI-Search Citations: Measuring the Fragility of AI Search را در مخزن علمی arXiv منتشر کردند. هدف آن‌ها بررسی این بود که محتوای منتشرشده در وب، با چه شرایطی می‌تواند به منبع مورد استناد ابزارهای جست‌وجوی هوش مصنوعی تبدیل شود.
برای این کار، محققان مفهومی به نام «Cactus Gravity Protocol» ساختند. اصطلاحی که در دنیای واقعی وجود نداشت. سپس مطالبی درباره آن را در وب سایت هایی منتشر کردند که ابزارهای مورد بررسی پیش‌تر از آن‌ها برای پاسخ‌گویی به کاربران استفاده کرده بودند.
و نتیجه شگفت آور بود؛ هشت ابزار از ده ابزار آزمایش‌شده ظرف هفت روز به محتوای مربوط به این مفهوم ساختگی ارجاع دادند. در میان چهار ابزار دسته انگلیسی‌زبان پژوهش، ChatGPT، Perplexity، Grok و ابزار هوش مصنوعی گوگل همگی چنین ارجاعی داشتند.
این نتیجه به آن معنا نیست که هر اطلاعات ساختگی با همین سرعت در پاسخ‌های هوش مصنوعی ظاهر می‌شود. پژوهشگران موضوعات دیگری، از جمله یک محصول ساختگی و یک پرسش نظری درباره آینده برنامه‌نویسان، را نیز آزمودند؛ اما ابزارهای بررسی‌شده عمدتاً به محتوای مربوط به مفهوم ساختگی واکنش نشان دادند.
بنابراین، یافته اصلی پژوهش نه اثبات پذیرش عمومی اطلاعات جعلی از سوی هوش مصنوعی، بلکه نشان دادن مسیری است که از طریق آن، محتوای ساختگی می‌تواند به پاسخ‌های این ابزارها راه پیدا کند.
مسئله فقط تولید پاسخ نادرست نیست
در بحث درباره خطاهای هوش مصنوعی، معمولاً مفهوم «توهم» یا Hallucination مطرح می‌شود؛ وضعیتی که در آن مدل اطلاعات نادرست تولید می‌کند یا جزئیاتی را ارائه می‌دهد که پشتوانه معتبری ندارند.
اما آزمایش دانشگاه فودان روی وجه دیگری از مسئله تمرکز دارد: نقش منابعی که ابزارهای جست‌وجوی هوش مصنوعی انتخاب می‌کنند.
این ابزارها صرفاً بر اساس پرسش کاربر یک پاسخ تولید نمی‌کنند. آن‌ها ممکن است صفحات وب را بازیابی کنند، منابع را انتخاب کنند و سپس پاسخ خود را بر مبنای اطلاعات استخراج شده از آن‌ها بسازند. در چنین فرایندی، کیفیت پاسخ به توانایی ابزار در ارزیابی و انتخاب منابع نیز وابسته است.
پژوهشگران در بخش نخست مطالعه، ۱۷٬۲۱۱ نمونه استناد را در ده پلتفرم جست‌وجوی هوش مصنوعی بررسی کردند. این استنادها به ۶٬۳۵۶ دامنه منحصربه فرد مربوط می‌شدند. در هر پلتفرم، گروه کوچکی از دامنه‌ها سهم قابل توجهی از استنادها را به خود اختصاص داده بودند؛ سهم ۲۰ دامنه برتر در پلتفرم‌های مختلف بین ۲۰٫۵ تا ۷۰٫۸ درصد متغیر بود.
محققان همچنین دریافتند که بخش قابل توجهی از پلتفرم‌های انتشار بررسی‌شده، امکان ایجاد حساب کاربری و انتشار مطلب با محدودیت کم یا متوسط را فراهم می‌کنند.
این دو مشاهده در کنار یکدیگر اهمیت پیدا می‌کنند که اگر ابزارهای هوش مصنوعی به منابع مشخصی گرایش داشته باشند و انتشار محتوا در برخی از آن منابع آسان باشد، انتشار یک مطلب در محل مناسب می‌تواند شانس ورود آن به پاسخ‌های هوش مصنوعی را افزایش دهد حتی اگر موضوع مطلب ساختگی باشد.
البته استناد به یک صفحه به‌تنهایی به معنای پذیرش تمام ادعاهای آن نیست. در همین پژوهش، تعداد پاسخ‌هایی که جزئیات ساختگیِ کاشته شده در مطالب را تکرار می‌کردند، از تعداد پاسخ‌هایی که به آن مطالب لینک می‌دادند کمتر بود. این تفاوت نشان می‌دهد که باید میان ارجاع به منبع، بازنشر اطلاعات نادرست و پذیرش کامل یک ادعا تمایز قائل شد.
آیا مرجع انتشار محتوا نقش مهم‌تری در قرارگیری در پاسخ های هوش مصنوعی دارد؟
بخش دیگری از پژوهش به اهمیت محل انتشار مربوط می‌شود.
محققان در آزمایشی مقایسه‌ای، مطالبی درباره چند مقصد گردشگری کمترشناخته‌شده را در دو دسته منبع منتشر کردند: منابعی که ابزارهای هوش مصنوعی معمولاً به آن‌ها ارجاع می‌دادند و منابعی که به ندرت در پاسخ‌ها ظاهر می‌شدند.
در این آزمایش‌ها، مطلب منتشرشده در منبعی که بیشتر مورد استناد قرار می‌گرفت، زودتر از مطلب مشابه در منبع کم‌استناد وارد پاسخ‌ها شد. در یکی از مقایسه‌ها، برای مشاهده نتیجه در سمت منابع کم‌استناد، انتشار تعداد زیادی مطلب لازم بود؛ در حالی که برخی مطالب منتشرشده در سایت شخصی پژوهشگران طی هفت روز هیچ ارجاعی دریافت نکردند.
این نتایج نشان می‌دهند که در آزمایش‌های انجام‌شده، محل انتشار می‌توانست به‌اندازه تعداد مطالب ــ و در برخی موارد بیشتر از آن ــ اهمیت داشته باشد. البته این نتیجه را نباید به یک قاعده قطعی درباره تمام موضوعات، وب‌سایت‌ها یا ابزارهای هوش مصنوعی تعمیم داد.
پژوهش همچنین یک نمونه تجاری از این مسیر را بررسی کرد. محققان با پرداخت ۱۴ دلار از یک ارائه‌دهنده خدمات GEO خواستند ۱۳ مطلب را در پلتفرم‌های چینی منتشر کند. حدود یک ساعت پس از انتشار، یکی از ابزارهای جست‌وجوی هوش مصنوعی چین به محتوای یکی از این مطالب ارجاع داد و جزئیاتی را که پژوهشگران برای شناسایی آن کاشته بودند، بازتاب داد.
این نمونه به تنهایی نشان‌دهنده نرخ موفقیت عمومی خدمات GEO نیست؛ اما نشان می‌دهد که انتشار محتوا با هدف اثرگذاری بر پاسخ‌های هوش مصنوعی، صرفاً یک احتمال نظری نیست و می‌تواند به شکل یک خدمت تجاری عرضه شود.
پیامدهای این یافته برای سئو و GEO چیست؟
با گسترش ابزارهایی که پاسخ‌های خود را همراه با منابع وب ارائه می‌کنند، حضور در پاسخ‌های هوش مصنوعی به یکی از موضوعات مورد توجه بازاریابان دیجیتال و متخصصان سئو تبدیل شده است. در این فضا، GEO یا Generative Engine Optimization به مجموعه رویکردهایی اشاره دارد که با هدف بهبود دیده‌شدن محتوا و برندها در پاسخ‌های مولد دنبال می‌شوند.
اما یافته‌های پژوهش دانشگاه فودان یک تمایز مهم را برجسته می‌کنند، حضور در پاسخ هوش مصنوعی لزوماً نشانه اعتبار، صحت یا برتری محتوای یک برند نیست.
اگر یک مفهوم ساختگی بتواند با انتشار مطالب در منابع مناسب وارد پاسخ‌های چند ابزار شود، صرف مشاهده نام یک برند یا لینک یک وب سایت در پاسخ هوش مصنوعی نمی‌تواند معیار کافی برای سنجش اعتبار آن حضور باشد. همچنین افزایش تعداد اشاره‌ها یا ارجاع‌ها به یک برند، به‌تنهایی ثابت نمی‌کند که مخاطبان اطلاعات دقیق‌تری دریافت می‌کنند یا اعتماد بیشتری به آن برند پیدا کرده‌اند.
از این منظر، ارزیابی GEO نباید صرفاً به شمارش دفعات ذکر نام برند یا حضور لینک‌های آن در پاسخ‌ها محدود شود. بررسی منابعی که ابزارها به آن‌ها استناد می‌کنند، صحت ادعاهای مطرح‌شده، زمینه‌ای که نام برند در آن ظاهر می‌شود و سازگاری پاسخ با اطلاعات معتبر، همگی اهمیت دارند.
این موضوع برای روابط عمومی دیجیتال و مدیریت اعتبار برند نیز کاربرد دارد. سازمان‌ها می‌توانند علاوه بر رصد میزان دیده‌شدن خود در پاسخ‌های هوش مصنوعی، منابع استناد، ادعاهای نادرست و اطلاعات قدیمی درباره برندشان را هم پایش کنند. البته این پایش باید میان یک اشاره ساده، یک ادعای نادرست و یک خطای اثرگذار بر تصمیم مخاطب تفاوت قائل شود.
و در نهایت اینکه ، اگر راه ورود یک مفهوم ساختگی به پاسخ هوش مصنوعی تا حدی به انتخاب منابع و سهولت انتشار محتوا وابسته باشد، بهینه‌سازی برای این ابزارها نمی‌تواند صرفاً به دیده‌شدن محدود بماند. اعتبار منابع و سازوکارهای ارزیابی آن‌ها نیز بخشی از مسئله است. مسئله‌ای که با تجاری‌تر شدن رقابت بر سر حضور در پاسخ‌های هوش مصنوعی، اهمیت بیشتری پیدا می‌کند.
گردآوری و تنظیم تحریریه مارکتینگ نیوز
