يقومون بتضليل Chatgpt عن طريق Ad Injection فيقوم هو الأخر بتضليلك ! فكن حذر

مخاطر التلاعب المحتملة في نتائج بحث ChatGPT عبر الإنترنت

يقومون بتضليل Chatgpt عن طريق Ad Injection فيقوم هو الأخر بتضليلك ! فكن حذر كشفت تحقيقات حديثة عن وجود احتمالية للتلاعب في نتائج البحث التي تُقدمها أداة البحث عبر الإنترنت المُدمجة في روبوت الدردشة الذكي ChatGPT، مما يُثير مخاوف بشأن دقة وموثوقية المعلومات المُتاحة للمستخدمين.

وقد أظهر تحقيق أجرته صحيفة “الغارديان” البريطانية المرموقة أن أداة البحث الحالية في ChatGPT قد تُنتج بالفعل نتائج بحث مُعرضة للتأثير والتوجيه، وهو ما يُعدّ تحديًا كبيرًا أمام هذه التقنية.

تعتمد أدوات البحث المدعومة بالذكاء الاصطناعي على جمع البيانات من مصادر متعددة عبر شبكة الإنترنت، ثم معالجتها وتقديمها في شكل إجابات مُختصرة ومُوجزة بهدف تسهيل عملية البحث وتوفير الوقت على المستخدمين. ومع ذلك، تُشير هذه التحقيقات إلى أن هذه التقنية لا تزال تواجه صعوبات في ضمان دقة وموثوقية النتائج المُقدمة، ممّا يستدعي الحاجة إلى مزيد من التطوير والتحسين.

آلية “حقن الإعلانات” وتأثيرها على نتائج بحث ChatGPT

كشف التحقيق عن وجود ثغرة في آلية معالجة البيانات التي تعتمد عليها أداة البحث في ChatGPT، تتمثل في قابليتها للتلاعب عبر تقنية تُعرف باسم “حقن الإعلانات” (Ad Injection أو Hidden Text Manipulation). تعتمد هذه التقنية الخبيثة على تضمين محتوى نصي أو تعليمات برمجية مخفية ضمن شِفرة المصدر الخاصة بالمواقع الإلكترونية، بهدف التأثير على خوارزميات محركات البحث، وخاصةً تلك المدعومة بالذكاء الاصطناعي، لتوجيهها نحو عرض نتائج مُعدّلة أو مُضللة.

على سبيل المثال، قد تلجأ بعض المتاجر الإلكترونية غير الأخلاقية إلى استخدام هذه التقنية لإدراج تعليمات مخفية في صفحات منتجاتها، بهدف تضخيم الجوانب الإيجابية للمنتج وتجاهل أو التقليل من شأن التقييمات السلبية الحقيقية من المستخدمين. هذا التلاعب يُمكن أن يُؤدي إلى تضليل المُستهلكين ودفعهم لشراء منتجات لا تتوافق مع التوقعات أو لا تستحق قيمتها الفعلية.

وقد قام فريق صحيفة “ذا جارديان” بتأكيد هذه الفرضية من خلال إجراء تجربة عملية مُحكمة. قام الفريق بإنشاء صفحة ويب وهمية تحتوي على مراجعات سلبية مُفصّلة لمنتج مُعيّن، ثم قاموا بإضافة تعليمات برمجية مخفية مُصممة خصيصًا لتقديم صورة إيجابية مُزيّفة عن نفس المنتج. وكشفت النتائج عن أن أداة البحث في ChatGPT، عند البحث عن هذا المنتج، قدّمت مرارًا وتكرارًا تقييمات إيجابية مُخالفة تمامًا للمراجعات السلبية المنشورة بشكل علني في الصفحة الوهمية. تُظهر هذه التجربة بوضوح مدى خطورة هذه الثغرة وإمكانية استغلالها لتضليل المستخدمين.

من المهم الإشارة إلى أن أداة البحث عبر الإنترنت في ChatGPT لا تزال قيد التطوير والاختبار، ولم يتم إطلاقها بشكل نهائي للجمهور العام بعد. يتم حاليًا اختبار هذه الأداة من قِبل مجموعة مُحدّدة من مُستخدمي ChatGPT كجزء من برنامج تجريبي. من المُرجّح أن تعمل شركة OpenAI على معالجة هذه المشكلات التقنية وتطوير آليات حماية فعّالة قبل إطلاق الأداة بشكل رسمي ونهائي في المستقبل القريب، وذلك لضمان مصداقية النتائج وحماية المستخدمين من التضليل.

ضرورة الحذر والتحقق من نتائج البحث المدعومة بالذكاء الاصطناعي

يُشدّد الخبراء في مجال الذكاء الاصطناعي على ضرورة توخي الحذر وعدم الاعتماد بشكل كامل على نتائج محركات البحث التي تعتمد على الذكاء الاصطناعي، بما في ذلك أداة البحث في ChatGPT. يُنصح بالتعامل مع هذه الأدوات على أنها مُساعدات ذكية تُساهم في تسريع عملية البحث وتقديم معلومات أولية، ولكن يجب عدم اعتبارها مصادر معلومات موثوقة بشكل قاطع. من الضروري دائمًا التحقق من صحة المعلومات المُقدمة من خلال الرجوع إلى مصادر مُعتمدة وموثوقة أخرى.

وتُشير التجارب السابقة إلى أن هذه التحديات ليست حصرية بـ ChatGPT، فقد واجهت شركة جوجل صعوبات مماثلة عند إطلاق ميزة “المطالعات الذكية AI Overviews” في محرك البحث الخاص بها، والتي تهدف إلى تقديم ملخصات سريعة مُولّدة بالذكاء الاصطناعي لنتائج البحث. يُؤكد ذلك على أن ضمان دقة وموثوقية المعلومات في هذه التقنيات يُمثل تحديًا مُستمرًا.

من الجدير بالذكر أن تقنيات الذكاء الاصطناعي تشهد تطورًا سريعًا ومُتسارعًا، ومع ذلك، فإن تحقيق نتائج بحث موثوقة وشفافة يتطلب بذل المزيد من الجهود البحثية والتطويرية للتغلب على التحديات القائمة، وعلى رأسها مُشكلة التلاعب بالنتائج وضمان الشفافية في آلية عمل هذه الأدوات، ومنع انتشار المعلومات المُضللة. يتطلب ذلك أيضًا وضع معايير وضوابط أخلاقية صارمة لاستخدام هذه التقنيات.

والى هنا إخوانى وأخواتى  الأعزاء نكون قد أتممنا المهمة بنجاح ✌

لاتنسوا إخواننا فى فلسطين من دعائكم📌

وتقبلوا تحيات فريق #Ezznology #عز_التقنية

كما يمكنكم الإطلاع على منتجات متجرنا من هنا  👈#متجرنا 🌷او هنا 

 

وللإنضمام الى اسرتنا على  جروب التليجرام من👈هنا

وكذلك جروب الفيس بوك والذى نقوم بمشاركة المعلومات عليه ومساعدة الأعاء من👈هنا 

وللإشتراك فى نشرتنا الإخبارية على اخبار جوجل اضغط هنا✌👇

                                                        او قم بمسح الكود

 

اهتم الأخرون أيضاً بـــ : 

IOS 19 ومزاياه المتوقعة التى ينتظرها الكثيرون هل انت متفائل ؟

جوجل كروم مع الذكاء الإصطناعى الحائط الجديد للتصدى للهجمات السيبرانية Chrome Canary

لا تغرنك الألوان الجذابة ولا الميزات الرهيبة فى نسخ الواتساب

مع هذا البرنامج سيطول عمر جهازك أضعاف وسيكون سهل الإستخدام Lenovo Vantage

افكار لمتاجر الكترونية اذا تم تنفيذها بطريقة صحيحة ستحقق ملايين المبيعات

خطوات ستساعدك فى حل جميع مشاكل الأوتلوك الشائعة How to Fix Common Outlook Problems

اشياء احذر ان تفعلها على تطبيق واتساب للحفاظ على الأمان والخصوصية

Quishing قد يكون الأخطر على الإطلاق لؤلائك الذين يفضلون مسح رموز الQR

لأول مرة Xiaomi 15 series مع معالج Snapdragon 8 يستحق الإقتناء

حل مشكلة عدم قيام النظام الوهمي في برنامج how to resolve intel VT-x is disabled issue – VMware

ميزة تنظيم رسائل الواتساب طبقاً للقوائم المنفصلة

مجموعة حواسب محمولة بمعالجات Snapdragon X تعلن عنها مايكروسوفت مع تقنية الذكاء الاصطناعي Copilot

ابل تقوم بدمج الذكاء الإصطناعى على أنظمتها المختلفة Apple Intelligence

طريقة إنشاء سيرتك الذاتية على ويكيبيديا

اهم 6 طرق و نصائح لإدارة التغيير بفعالية

طريقة إنشاء صفحة باسمك او باسم نشاطك على ويكيبيديا لتحقيق الشهرة

ماهى إدارة التغيير | Change Management

إعدادات يمكن ضبطها في هواتف آيفون لتحسين عمر البطارية

ماذا تعنى ال الـ Clustering Servers ؟