لكن ماذا يفعل “meaning” يقصد؟
دفاع جزئي عن (بعض) من الذكاء الاصطناعي التفسيرات الاصطناعية.
العقل …. في مهب الائتمان: Getty Images
في الأسبوع الماضي ، العبارة “You can’t lick a badger twice” ذهب بشكل غير متوقع الفيروسية على وسائل التواصل الاجتماعي. الجملة الهراء – التي من المحتمل أن ينطق بها الإنسان من قبل الإنسان قبل الأسبوع الماضي -“https://www.wired.com/story/google-ai-overviews-meaning/”> أصبح الطفل الملصق للطريقة المكتشفة حديثا”https://arstechnica.com/ai/2024/06/googles-ai-overviews-misunderstand-why-people-use-google/”> نظرة عامة على Google Search’s AI تعوض عن تفسيرات معقولة للتعابير المكياج (على الرغم من أن المفهوم”https://bsky.app/profile/crabman.bsky.social/post/3ln2vu7ulrk2a”> يبدو أنه يسبق هذا المنشور الفيروسي المحدد على الأقل بضعة أيام).
اكتشف مستخدمو Google بسرعة أن كتابة أي عبارة تم إعدادها في شريط البحث مع الكلمة “meaning” المرفقة في النهاية ستولد نظرة عامة على الذكاء الاصطناعي مع شرح مزعوم لمعنىه الاصطلاحي. حتى أكثر المحاولات غير المنطقية للثبات الجديدة أسفرت عن شرح واثق من نظرة عامة على Google AI ، التي تم إنشاؤها هناك على الفور.
في أعقاب “lick a badger” بريد،”https://bsky.app/profile/elainelow.bsky.social/post/3lnvw6yucds2a”> عدد لا يحصى من المستخدمين توافد إلى”https://bsky.app/profile/diff55.bsky.social/post/3lnuzqcawys2t”> وسائل التواصل الاجتماعي ل”https://bsky.app/profile/mcconnell.bsky.social/post/3lnlraaysnc2z”> مشاركة تفسيرات منظمة العفو الدولية من Google ل”https://x.com/woodgnomology/status/1915021766746947766″> تعابيرهم المكياج، غالبًا ما يعبر عن الرعب أو الكفر في جوجل على هراء. غالبًا ما تبرز هذه المنشورات الطريقة المفرطة للثقة ، حيث تقوم نظرة عامة على نظرة عامة على الذكاء الاصطناعي بتفسيراتها الاصطناعية والمشاكل العرضية مع المصادر النموذجية التي لا توجد.
ولكن بعد قراءة العشرات من الأمثلة المشتركة للجمهور على تفسيرات Google للتعابير المزيفة – وتوليد عدد قليل من بلدي – لقد تأثرت إلى حد ما مع المحاولات الشعرية النموذجية تقريبًا للتجميد من المعنى من الرطوبة وفهم من غير المعقول.
تحدث معي كطفل
دعونا نجرب تجربة فكرية: قل لك طفلًا سألك عن العبارة “you can’t lick a badger twice” وسائل. ربما تقول أنك لم تسمع هذه العبارة المعينة أو تسأل الطفل عن المكان الذي سمعوه. قد تقول إنك لست على دراية بهذه العبارة أو أنها لا معنى لها حقًا دون المزيد من السياق.
“en”> لاحظ شخص ما على المواضيع أنه يمكنك كتابة أي جملة عشوائية في Google ، ثم أضف “معنى” بعد ذلك ، وستحصل على شرح منظمة العفو الدولية لمصطلح أو عبارة شهيرة قمت بها للتو. هنا لي
– جريج جينر (“https://bsky.app/profile/did:plc:knlwbyvg36keh64h6awokbqx?ref_src=embed”>@gregjenner.bsky.social)”https://bsky.app/profile/did:plc:knlwbyvg36keh64h6awokbqx/post/3lnhxkdywzc2m?ref_src=embed”> 23 أبريل 2025 الساعة 6:15 صباحًا
ولكن دعنا نقول أن الطفل استمر وأراد حقًا تفسيرًا لما تعنيه العبارة. لذلك كنت تبذل قصارى جهدك لإنشاء إجابة معقولة. كنت تبحث عن ذاكرتك عن دلالات محتملة للكلمة “lick” و/أو المعنى الرمزي للغرير النبيل لإجبار المصطلح إلى بعض المدونة. ستعود إلى التعبيرات الأخرى المماثلة التي تعرفها أن تحاول احتواء هذه العبارة الجديدة غير المألوفة في نمط أوسع (أي شخص لعب لعبة لوح ممتازة حكيم وغير ذلك قد تكون على دراية بالعملية).
لم يمر نظرة عامة على Google من AI هذا النوع من عملية التفكير البشري تمامًا عند مواجهة سؤال مماثل حول نفس القول. ولكن بطريقته الخاصة ، يبذل نموذج اللغة الكبير أيضًا قصارى جهده لتوليد استجابة معقولة لطلب غير معقول.
كما رأينا”https://bsky.app/profile/gregjenner.bsky.social/post/3lnhxkdywzc2m”> منشور غريغ جينر فيروسي بلوزكي، نظرة عامة على منظمة العفو الدولية من Google تقترح ذلك “you can’t lick a badger twice” يعني ذلك “you can’t trick or deceive someone a second time after they’ve been tricked once. It’s a warning that if someone has already been deceived, they are unlikely to fall for the same trick again.” كمحاولة لاستخلاص المعنى من عبارة لا معنى لها – والتي كانت ، بعد كل شيء ، طلب المستخدم – هذا ليس نصف سيئ. في مواجهة عبارة لا معنى لها ، لا تزال نظرة عامة على منظمة العفو الدولية تبذل جهداً جيداً للإجابة على طلب المستخدم ورسم بعض التفسير المعقول من الهراء الذي يستحق القزم.
خلافًا لثلاثي العلوم في علوم الكمبيوتر”https://en.wiktionary.org/wiki/garbage_in,_garbage_out”> “القمامة في ، القمامة خارج، جوجل هنا تأخذ بعض القمامة والبصق … حسنًا ، تفسير عملي للقمامة ، على الأقل.
نظرة عامة على منظمة العفو الدولية من Google تدخل في مزيد من التفاصيل لشرح عملية التفكير. “Lick” هنا يعني “trick or deceive” يقول شخص ما من تعريف القاموس للعق “comprehensively defeat,” ولكن ربما يغلق بما يكفي من التعبير (وتكرار معقول من”https://en.wiktionary.org/wiki/fool_me_once,_shame_on_you;_fool_me_twice,_shame_on_me”> المصطلحو “Fool me once shame on you, fool me twice, shame on me…”). تشرح Google أيضًا أن الجزء الغرير من العبارة “likely originates from the historical sport of badger baiting,” ممارسة كنت متأكدًا من أن Google كانت هلوسة حتى”https://en.wikipedia.org/wiki/Badger-baiting”> نظرت إليها ووجدت أنها حقيقية.
استغرق الأمر مني 15 ثانية لتعويض هذا القول ولكن الآن أعتقد أنه نوع من الأعمال!
الائتمان: كايل أورلاند / جوجل
استغرق الأمر مني 15 ثانية لتعويض هذا القول ولكن الآن أعتقد أنه نوع من الأعمال! الائتمان: كايل أورلاند / جوجل
لقد وجدت الكثير من الأمثلة الأخرى حيث استمدت الذكاء الاصطناعى من Google أكثر من المعنى أكثر من رطوبة الطالب الأصلي التي ربما تستحقها. جوجل”https://bsky.app/profile/eewash.bsky.social/post/3lnlzyd7pac2r”> يفسر العبارة “dream makes the steam” كبيان شعري تقريبا حول تخيل الابتكار. الخط “you can’t humble a tortoise” بالمثل يتم تفسيره كبيان حول صعوبة التخويف “someone with a strong, steady, unwavering character (like a tortoise).”
غالبًا ما تجد Google اتصالات بأن المبدعين المصابين الهراء الأصليين من المحتمل أن لا ينوي. على سبيل المثال ، Google”https://bsky.app/profile/edsouthall.bsky.social/post/3lnhxrr6o4c2h”> يمكن ربط المصطلح المكياج “A deft cat always rings the bell” ل”https://en.wikipedia.org/wiki/Belling_the_Cat”> المفهوم الحقيقي ل Belling the Cat. وفي محاولة”https://bsky.app/profile/kateafan.bsky.social/post/3lnifnvdtzc27″> تفسير عبارة هراء “two cats are better than grapes,” نظرة عامة على الذكاء الاصطناعي”https://www.petmd.com/cat/nutrition/can-cats-eat-grapes”> الملاحظات بشكل صحيح يمكن أن تكون العنب سامة للقطط.
ممتلئة بثقة
حتى عندما تعمل نظرة عامة على منظمة العفو الدولية من Google بجد لتحقيق أفضل ما في المطالبة السيئة ، لا يزال بإمكاني فهم سبب فرك الردود على الكثير من المستخدمين بطريقة خاطئة. أعتقد أن الكثير من المشكلة تتعلق بلون LLM الواثق غير المكتسب ، والذي يتظاهر بأن أي تعبير مكياج هو قول شائع له معنى راسخ وموثوق.
بدلاً من تأطير ردودها على أنها أ “best guess” في عبارة غير معروفة (كقوة إنسانية عند الاستجابة لطفل في المثال أعلاه) ، تزود Google بشكل عام للمستخدم بتفسير واحد موثوق لما يعنيه المصطلح ، التوقف الكامل. حتى مع الاستخدام العرضي للكلمات الأريكة مثل “likely,” “probably,” أو “suggests,” نظرة عامة على الذكاء الاصطناعى تنفد بشكل مثير للقلق من المعنى المقبول بالنسبة لبعض الهراء الذي شكله المستخدم قبل خمس ثوان.
إذا أظهرت نظرة عامة على منظمة العفو الدولية من Google دائمًا هذا الشك الذاتي ، فسنحصل على مكان ما.
الائتمان: Google / Kyle Orland
إذا أظهرت نظرة عامة على منظمة العفو الدولية من Google دائمًا هذا الشك الذاتي ، فسنحصل على مكان ما. الائتمان: Google / Kyle Orland
تمكنت من العثور على استثناء واحد في هذا في الاختبار. عندما سألت Google معنى “when you see a tortoise, spin in a circle,” أخبرتني Google بشكل معقول أن هذه العبارة “doesn’t have a widely recognized, specific meaning” وهذا هو “not a standard expression with a clear, universal meaning.” مع هذا السياق ، قدمت Google ثم اقتراحات لما هي العبارة “seems to” يعني وذكرت قوافي الحضانة اليابانية أنه “may be connected” إلى ، قبل أن تستنتج أنه كذلك “open to interpretation.”
هذه التصفيات تقطع شوطًا طويلاً نحو السياق بشكل صحيح ، فإن نظرة عامة على التخمين من الذكاء الاصطناعى تنص على هنا بالفعل. وإذا وفرت Google هذا النوع من السياق في كل شرح ملخص لمنظمة العفو الدولية ، فلا أعتقد أن المستخدمين سيكونون منزعجين تمامًا.
لسوء الحظ ، LLMS مثل هذا”https://arstechnica.com/ai/2025/03/why-do-llms-make-stuff-up-new-research-peers-under-the-hood/”> تواجه مشكلة في معرفة ما لا يعرفونه، وهذا يعني لحظات الشك الذاتي مثل تفسير السلاحف هنا تميل إلى أن تكون قليلة ومتباعدة. ليس مثل نموذج لغة Google يحتوي على قائمة رئيسية من التعابير في شبكتها العصبية ، حيث يمكنه استشارة ما هو عليه وليس أ “standard expression” أنه يمكن أن يكون واثقا من. عادةً ما يكون مجرد عرض نغمة مثبتة ذاتيًا بينما تكافح لإجبار المستخدم على المعنى.
زوز متنكرا على نفسه ماذا؟
أسوأ الأمثلة على تخمين الذكاء الاصطناعي من Google هي تلك التي تنزلق فيها LLM تفسيرات معقولة وفي الهلوسة المطلقة لمصادر خيالية تمامًا. العبارة “a dog never dances before sunset,” على سبيل المثال ، لم يظهر في الفيلم قبل شروق الشمسو”https://bsky.app/profile/sapphyreblayze.bsky.social/post/3lniejaznw222″> بغض النظر عما تقوله Google. بصورة مماثلة، “There are always two suns on Tuesday” لا يظهر في دليل Hitchhiker إلى المجرة فيلم على الرغم من إصرار Google.
“en”> حرفيا في واحد حاولت.
– سارة فوجان (“https://bsky.app/profile/did:plc:b6gisluge75pasdrm3uaotwr?ref_src=embed”>@madamefelicie.bsky.social)”https://bsky.app/profile/did:plc:b6gisluge75pasdrm3uaotwr/post/3lni4yfzo5c2y?ref_src=embed”> 23 أبريل 2025 في الساعة 7:52 صباحًا
ليس هناك أيضًا إشارة إلى أن عبارة مكياج”https://bsky.app/profile/rhysharris3.bsky.social/post/3lnhydnpko22s”>”Welsh men jump the rabbit” نشأت في جزيرة بورتلاند الويلزية ، أو”https://www.threads.com/@writtenbymeaghan/post/DIqwP0RJqpH?xmt=AQGzCTw0zAugM0n8ayzm5vs9x9bpLrvEuXR39o0ZbaMohgc”>”peanut butter platform heels” يشير إلى تجربة علمية تخلق الماس من الوجبة الخفيفة اللزجة. نحن أيضًا غير مدركين لأي أسطورة يونانية حيث يتنكر زيوس كحمام ذهبي لشرح العبارة”https://bsky.app/profile/jstrw.bsky.social/post/3lniby2yk7s2l”>”beware what glitters in a golden shower.” (تحديث: كما أشار العديد من المعلقين ، فإن هذا الأخير هو في الواقع إشارة إلى”https://www.getty.edu/art/collection/object/103QTA”> الأسطورة اليونانية لداني ودش الذهب، إظهار أن الذكاء الاصطناعي من Google يعرف المزيد عن هذا الرمزية المحتملة أكثر مني)
إن حقيقة أن نظرة عامة على Google AI تقدم هذه المصادر المكونة تمامًا بنفس التأمين الذاتي مثل تفسيراتها التجريدية هي جزء كبير من المشكلة هنا. إنها أيضًا مشكلة مستمرة لـ LLMs التي تميل إلى ذلك”https://arstechnica.com/ai/2025/03/ai-search-engines-give-incorrect-answers-at-an-alarming-60-rate-study-says/”> مكياج مصادر الأخبار و”https://arstechnica.com/tech-policy/2025/02/ai-making-up-cases-can-get-lawyers-fired-scandalized-law-firm-warns/”> استشهد بقضايا قانونية مزيفة بانتظام. كالعادة ، يجب أن يكون المرء حذرًا جدًا عند الوثوق بأي شيء يعرضه LLM كحقيقة موضوعية.
عندما يتعلق الأمر بالتفسير الفني والرمزي للعبارات الهراء ، أعتقد أن نظرة عامة على منظمة العفو الدولية من Google قد حصلت على شيء من الراب السيئ مؤخرًا. تم تقديم النموذج مع المهمة الصعبة المتمثلة في شرح العبارات التي لا يمكن تفكيكها ، ويبذل قصارى جهده ، مما يولد تفسيرات يمكن أن تتراوح من العميق في بعض الأحيان. على الرغم من أن النغمة الموثوقة لتلك الردود يمكن أن تكون مزعجة في بعض الأحيان أو مضللة بفعالية ، إلا أنه من الممتع على الأقل رؤية أفضل محاولات النموذج للتعامل مع عبارة لا معنى لها ق.
“https://cdn.arstechnica.net/wp-content/uploads/2016/05/k.orland-13.jpg” alt=”Photo of Kyle Orland”>
كانت كايل أورلاند محررة الألعاب الأولى في ARS Technica منذ عام 2012 ، حيث كتبت في المقام الأول عن الأعمال والتكنولوجيا والثقافة وراء ألعاب الفيديو. لديه شهادات الصحافة وعلوم الكمبيوتر من جامعة ماريلاند. انه مرة”https://bossfightbooks.com/collections/books/products/minesweeper-by-kyle-orland”> كتب كتاب كامل عن كاسحة ألغام.