مؤلف مشارك ل الاهتمام هو كل ما تحتاجه يعكس مفاجأة ChatGPT والنزعة المحافظة لدى Google.
جاكوب أوزكوريت الائتمان: جاكوب أوسزكوريت / غيتي إيماجز
في عام 2017، أصدر ثمانية باحثين في مجال التعلم الآلي في Google ورقة بحثية رائدة تسمى”https://arxiv.org/abs/1706.03762″>الاهتمام هو كل ما تحتاجه، الذي قدم”https://research.google/blog/transformer-a-novel-neural-network-architecture-for-language-understanding/”> محول بنية الذكاء الاصطناعي التي تدعم تقريبًا جميع نماذج الذكاء الاصطناعي التوليدية رفيعة المستوى اليوم.
لقد جعل المحول مكونًا رئيسيًا لطفرة الذكاء الاصطناعي الحديثة ممكنًا من خلال ترجمة (أو تحويل، إذا صح التعبير) أجزاء من البيانات تسمى “tokens” إلى شكل آخر مرغوب من الإخراج باستخدام الشبكة العصبية. الاختلافات في نماذج لغة هندسة المحولات مثل”https://arstechnica.com/information-technology/2024/05/chatgpt-4o-lets-you-have-real-time-audio-video-conversations-with-emotional-chatbot/”> جي بي تي-4o (و”https://arstechnica.com/information-technology/2023/11/chatgpt-was-the-spark-that-lit-the-fire-under-generative-ai-one-year-ago-today/”>الدردشةGPT)، نماذج تركيب الصوت التي تقوم بتشغيل Google”https://arstechnica.com/ai/2024/09/fake-ai-podcasters-are-reviewing-my-book-and-its-freaking-me-out/”> دفتر ملاحظاتLM و OpenAI”https://arstechnica.com/information-technology/2024/07/when-counting-quickly-openais-new-voice-mode-stops-to-catch-its-breath/”> وضع الصوت المتقدم، نماذج تركيب الفيديو مثل”https://arstechnica.com/information-technology/2024/02/openai-collapses-media-reality-with-sora-a-photorealistic-ai-video-generator/”> سوراونماذج تركيب الصور مثل”https://arstechnica.com/information-technology/2024/01/a-crazy-update-midjourney-v6-upgrade-heaps-on-ai-generated-detail/”> منتصف الرحلة.
في”https://arstechnica.com/ai/2024/10/at-ted-ai-2024-experts-grapple-with-ais-growing-pains/”> تيد الذكاء الاصطناعي 2024 في أكتوبر، تحدث أحد هؤلاء الباحثين الثمانية، جاكوب أوزكوريت، مع Ars Technica حول تطوير المحولات، وعمل Google المبكر على نماذج اللغة الكبيرة، ومشروعه.”https://inceptive.life/”> مشروع جديد في الحوسبة البيولوجية.
في المقابلة، كشف Uszkoreit أنه على الرغم من أن فريقه في Google كان لديه آمال كبيرة بشأن إمكانات التكنولوجيا، إلا أنهم لم يتوقعوا تمامًا دورها المحوري في منتجات مثل ChatGPT.
مقابلة آرس: جاكوب أوسزكوريت
آرس تكنيكا: ما هي مساهمتك الرئيسية في الاهتمام هو كل ما تحتاجه ورق؟
جاكوب أوزكوريت (JU): لقد تم توضيح ذلك في الحواشي السفلية، لكن مساهمتي الرئيسية كانت في اقتراح أنه سيكون من الممكن استبدال التكرار[من[from
آرس: هل لديك أي فكرة عما سيحدث بعد أن تنشر مجموعتك تلك الورقة؟ هل توقعت الصناعة التي ستخلقها وتداعياتها؟
جو: بداية، أعتقد أنه من المهم حقًا أن نضع في اعتبارنا أننا عندما فعلنا ذلك، كنا نقف على أكتاف العمالقة. ولم تكن تلك الورقة واحدة فقط، حقًا. لقد كانت سلسلة طويلة من الأعمال التي قام بها البعض منا والعديد من الآخرين هي التي أدت إلى ذلك. ولذا فإن النظر إلى الأمر كما لو أن هذه الورقة قد أطلقت شيئًا ما أو خلقت شيئًا ما – أعتقد أن هذا يمثل وجهة نظر نحبها كبشر من منظور سرد القصص، لكن هذا قد لا يكون في الواقع دقيقًا في التمثيل.
كان فريقي في Google يضغط على نماذج الانتباه لسنوات قبل تلك الورقة البحثية. إنها عملية شاقة أطول بكثير وأكثر من ذلك بكثير، وهذه مجرد مجموعتي. وكان كثيرون آخرون يعملون على هذا أيضاً، ولكن كانت لدينا آمال كبيرة في أن يدفع هذا الأمر الأمور إلى الأمام من منظور تكنولوجي. هل اعتقدنا أنه سيلعب دورًا في التمكين حقًا، أو على الأقل ظاهريًا، في قلب المفتاح عندما يتعلق الأمر بتيسير منتجات مثل ChatGPT؟ أنا لا أعتقد ذلك. أعني، لكي أكون واضحًا جدًا فيما يتعلق ببرامج الماجستير في القانون وقدراتها، حتى في الوقت الذي نشرنا فيه الورقة، رأينا ظواهر كانت مذهلة جدًا.
لم نخرج هؤلاء إلى العالم جزئيًا بسبب ما قد يكون في الحقيقة فكرة محافظة حول المنتجات في Google في ذلك الوقت. لكننا أيضًا، حتى مع تلك العلامات، لم نكن واثقين من أن الأشياء في حد ذاتها ستجعل المنتج مقنعًا. لكن هل كانت لدينا آمال كبيرة؟ نعم.
آرس: نظرًا لأنك تعلم بوجود نماذج لغوية كبيرة في Google، ما رأيك عندما حقق ChatGPT نجاحًا عامًا؟ “Damn, they got it, and we didn’t?”
جو: لقد كانت هناك فكرة، حسنًا، “that could have happened.” أعتقد أنه كان أقل من ذلك، “Oh dang, they got it first” أو أي شيء من هذا القبيل. لقد كان أكثر من أ “Whoa, that could have happened sooner.” هل ما زلت مندهشًا من مدى سرعة إبداع الأشخاص في استخدام هذه الأشياء؟ نعم، كان ذلك مجرد لالتقاط الأنفاس.
جاكوب أوسزكوريت يقدم عرضًا في TED AI 2024. الائتمان: بينج إدواردز
آرس: لم تعد في Google في تلك المرحلة بعد الآن، أليس كذلك؟
جو: لم أعد كذلك. وبمعنى ما، يمكنك القول أن حقيقة أن Google لن يكون المكان المناسب للقيام بذلك قد أخذت في الاعتبار عند رحيلي. لم أغادر بسبب ما لم يعجبني في Google بقدر ما غادرت بسبب ما شعرت أنه يتعين علي فعله في مكان آخر، وهو بدء Inceptive.
ولكن كان الدافع وراء ذلك في الواقع مجرد فرصة هائلة، ليس فقط، ولكن أيضًا التزام أخلاقي إلى حد ما، للقيام بشيء كان من الأفضل القيام به في الخارج من أجل تصميم أدوية أفضل ويكون لها تأثير مباشر جدًا على حياة الناس.
آرس: الشيء المضحك في ChatGPT هو أنني كنت أستخدمه”https://en.wikipedia.org/wiki/GPT-3″> جي بي تي-3 قبل ذلك. لذلك عندما ظهر ChatGPT، لم يكن الأمر ذا أهمية بالنسبة لبعض الأشخاص الذين كانوا على دراية بالتكنولوجيا.
جو: نعم بالضبط. إذا كنت قد استخدمت هذه الأشياء من قبل، فيمكنك رؤية التقدم ويمكنك استقراءه. عندما قامت OpenAI بتطوير أقدم GPTs باستخدام”https://scholar.google.com/citations?user=dOad5HoAAAAJ&hl=en”> أليك رادفورد وهؤلاء الأشخاص، كنا نتحدث عن هذه الأشياء على الرغم من أننا لم نكن في نفس الشركات. وأنا متأكد من أنه كان هناك هذا النوع من الإثارة، ومدى الاستقبال الجيد لمنتج ChatGPT الفعلي من خلال عدد الأشخاص، ومدى السرعة. وما زال هذا، كما أعتقد، شيئًا لا أعتقد أن أحدًا توقعه حقًا.
آرس: ولم أفعل ذلك أيضًا عندما كنت”https://arstechnica.com/information-technology/2022/12/openai-invites-everyone-to-test-new-ai-powered-chatbot-with-amusing-results/”> غطاه. شعرت ، “Oh, this is a chatbot hack of GPT-3 that feeds its context in a loop.” ولم أعتقد أنها كانت لحظة فارقة في ذلك الوقت، لكنها كانت رائعة.
جو: هناك نكهات مختلفة من الاختراقات. لم يكن طفرة تكنولوجية. لقد كان ذلك إنجازًا كبيرًا في إدراك أنه عند هذا المستوى من القدرة، تتمتع التكنولوجيا بفائدة عالية.
هذا، وإدراك أنه لأنه يتعين عليك دائمًا أن تأخذ في الاعتبار كيفية استخدام المستخدمين فعليًا للأداة التي تنشئها، وقد لا تتوقع مدى إبداعهم في قدرتهم على الاستفادة منها، ومدى اتساع نطاق حالات الاستخدام هذه هي، وهكذا دواليك.
هذا شيء لا يمكنك تعلمه في بعض الأحيان إلا من خلال طرح شيء ما، ولهذا السبب أيضًا من المهم جدًا أن تظل سعيدًا بالتجربة وأن تظل سعيدًا بالفشل. لأنه في أغلب الأحيان، لن ينجح الأمر. لكن في بعض الأحيان سينجح الأمر، ونادرًا جدًا جدًا أن ينجح الأمر على هذا النحو [ChatGPT did].
آرس: عليك أن تأخذ المخاطرة. ولم يكن لدى جوجل الرغبة في تحمل المخاطر؟
جو: ليس في ذلك الوقت. ولكن إذا فكرت في الأمر، وإذا نظرت إلى الوراء، ستجد أنه في الواقع مثير للاهتمام حقًا.”https://en.wikipedia.org/wiki/Google_Translate”> ترجمة جوجلالذي عملت عليه لسنوات عديدة، كان مشابهًا في الواقع. عندما أطلقنا خدمة الترجمة من Google لأول مرة، الإصدارات الأولى، كانت مزحة احتفالية في أحسن الأحوال. وقد أخذناها من ذلك إلى كونها أداة مفيدة حقًا في فترة ليست طويلة. على مدار تلك السنوات، كانت الأشياء التي تنتجها أحيانًا سيئة للغاية بشكل محرج في بعض الأحيان، لكن Google فعلت ذلك على أي حال لأنه كان الشيء الصحيح الذي يجب تجربته. لكن ذلك كان في الأعوام 2008، 2009، 2010.
آرس: هل تتذكر برنامج AltaVista؟”https://en.wikipedia.org/wiki/Babel_Fish_(website)”> سمك بابل؟
جو: أوه نعم، بالطبع.
آرس: عندما خرج ذلك، فجر ذهني. كنت أنا وأخي نفعل هذا الشيء حيث كنا نترجم النص ذهابًا وإيابًا بين اللغات من أجل المتعة لأنه قد يؤدي إلى تشويه النص.
جو: سوف يصبح الأمر أسوأ وأسوأ وأسوأ. نعم.
برمجة أجهزة الكمبيوتر البيولوجية
بعد الفترة التي قضاها في Google، شارك Uszkoreit في تأسيسها”https://inceptive.life/”> مبتدئ لتطبيق التعلم العميق على الكيمياء الحيوية. وتقوم الشركة بتطوير ما يسميه “biological software,” حيث يقوم مجمعو الذكاء الاصطناعي بترجمة سلوكيات محددة إلى تسلسلات الحمض النووي الريبي (RNA) التي يمكنها أداء الوظائف المطلوبة عند إدخالها إلى الأنظمة البيولوجية.
آرس: ماذا تفعل في هذه الأيام؟
جو: في عام 2021، شاركنا في تأسيس Inceptive من أجل استخدام التعلم العميق وتجارب الكيمياء الحيوية عالية الإنتاجية لتصميم أدوية أفضل يمكن برمجتها حقًا. نعتقد أن هذا مجرد خطوة أولى في اتجاه ما نسميه البرمجيات البيولوجية.
تشبه البرامج البيولوجية إلى حد ما برامج الكمبيوتر من حيث أن لديك بعض المواصفات للسلوك الذي تريده، ومن ثم يكون لديك مترجم يترجم ذلك إلى جزء من برنامج كمبيوتر يتم تشغيله بعد ذلك على جهاز كمبيوتر يعرض الوظائف أو الوظائف التي تحدده.
تحدد جزءًا من برنامج بيولوجي وتقوم بتجميعه، ولكن ليس باستخدام مترجم هندسي، لأن الحياة لم تتم هندستها كما تمت هندسة أجهزة الكمبيوتر. ولكن باستخدام مترجم الذكاء الاصطناعي المتعلم، يمكنك ترجمة ذلك أو تجميعه إلى جزيئات عند إدخالها في الأنظمة البيولوجية، والكائنات الحية، تظهر خلايانا تلك الوظائف التي برمجت عليها.
صيدلي يحمل زجاجة تحتوي على لقاح موديرنا ثنائي التكافؤ لكوفيد-19. ائتمان:”https://www.gettyimages.com/detail/news-photo/daniel-carrillo-a-pharmacist-at-altamed-in-southgate-holds-news-photo/1243780383?adppopup=true” الهدف=”_blank”> جيتي | ميل ميلكون
آرس: هل هذا يشبه آلية عمل لقاحات mRNA لكوفيد؟
جو: مثال بسيط جدًا على ذلك هو لقاحات mRNA لـCOVID حيث يقول البرنامج، “Make this modified viral antigen” ومن ثم تقوم خلايانا بتصنيع هذا البروتين. لكن يمكنك أن تتخيل جزيئات تظهر سلوكيات أكثر تعقيدًا بكثير. وإذا كنت ترغب في الحصول على صورة لمدى تعقيد هذه السلوكيات، فقط تذكر أن فيروسات الحمض النووي الريبوزي (RNA) هي كذلك. إنها مجرد جزيء RNA الذي عند دخوله إلى كائن حي يُظهر سلوكًا معقدًا بشكل لا يصدق مثل توزيع نفسه عبر الكائن الحي، وتوزيع نفسه عبر العالم، والقيام بأشياء معينة فقط في مجموعة فرعية من خلاياك لفترة معينة من الوقت، وما إلى ذلك وهكذا دواليك.
ولذا يمكنك أن تتخيل أنه إذا تمكنا من تصميم جزيئات ذات جزء صغير جدًا من هذه الوظائف، بالطبع بهدف ليس جعل الناس مرضى، ولكن جعلهم أصحاء، فإن ذلك سيغير الطب حقًا.
آرس: كيف لا تقوم عن طريق الخطأ بإنشاء تسلسل RNA وحشي يدمر كل شيء؟
جو: والأمر المذهل هو أن الطب، منذ فترة طويلة، كان موجودًا بمعنى ما خارج نطاق العلم. لم يكن الأمر مفهومًا حقًا، وما زلنا في كثير من الأحيان لا نفهم حقًا آليات عملهم الفعلية.
ونتيجة لذلك، كان على البشرية أن تعمل على تطوير كل هذه الضمانات والتجارب السريرية. وحتى قبل دخولك العيادة، فإن كل هذه الضمانات التجريبية تمنعنا من القيام بذلك عن طريق الخطأ [something dangerous]. لقد كانت هذه الأنظمة موجودة منذ وجود الطب الحديث. ولذلك، سنستمر في استخدام تلك الأنظمة، وبالطبع بكل العناية اللازمة. سنبدأ بأنظمة صغيرة جدًا، وخلايا فردية في التجارب المستقبلية، ونتبع نفس البروتوكولات الراسخة التي كان على الطب اتباعها طوال الوقت للتأكد من أن هذه الجزيئات آمنة.
آرس: شكرا لأخذ الوقت للقيام بذلك.
جو: لا، شكرا لك.
بينج إدواردز هو كبير مراسلي الذكاء الاصطناعي في Ars Technica ومؤسس برنامج الذكاء الاصطناعي المخصص للموقع في عام 2022. وهو أيضًا خبير تقني يُستشهد به على نطاق واسع. ح مؤرخ. في أوقات فراغه، يكتب الموسيقى ويسجلها، ويجمع أجهزة الكمبيوتر القديمة، ويستمتع بالطبيعة. يعيش في رالي، كارولاينا الشمالية.