HyperAIHyperAI

من قائد GPT-3 إلى المدير التقني لشركة Anthropic، يناقش توم براون الخبرة في ريادة الأعمال وقوانين التوسع والاعتماد على سلسلة توريد الرقائق.

特色图像

في خضم التطور السريع للذكاء الاصطناعي العالمي، برز اسم توم براون. بصفته القائد الأساسي لتطوير GPT-3 في OpenAI، أشرف على القفزة المحورية لنماذج اللغات الكبيرة من المختبر إلى التصنيع وقادها. والآن، بصفته المؤسس المشارك والرئيس التنفيذي للتكنولوجيا في Anthropic، يقود فريق إطلاق سلسلة نماذج Claude.ومن منظور معين، تعكس تجربة توم براون النقاط الرئيسية في تطوير الذكاء الاصطناعي.

مقارنةً بمعظم المهندسين التقليديين، كان مسار توم براون المهني أكثر تعقيدًا. بدأ مسيرته الريادية، وتعلم الرياضيات والتعلم الآلي ذاتيًا، ودخل تدريجيًا عالم الأبحاث المتطورة. مستفيدًا من خبرته المتعددة التخصصات في الهندسة والتنظيم، انضم إلى OpenAI لقيادة البحث والتطوير الأساسي، ولعب دورًا رئيسيًا في مشروع GPT-3.لقد أعطى النمو غير الخطي من ريادة الأعمال إلى البحث العلمي توم براون منظورًا فريدًا لكل من الاستكشاف التكنولوجي والحكم الاستراتيجي.

في مقابلة أجريت مؤخرًا مع Y Combinator، شارك توم براون رحلة تحوله من رجل أعمال إلى باحث، وتحدث عن بناء كلود كود، والدروس المستفادة من تصميم أنظمة GPT-3 وLLM، كما تطرق أيضًا إلى أفكاره حول التحديات مثل قوة الحوسبة والطاقة وأمن الذكاء الاصطناعي في المستقبل. جمعت شركة HyperAI بعض النقاط الرئيسية من المقابلة دون المساس بالهدف الأصلي. فيما يلي نص المقابلة.

من OpenAI إلى Anthropic، رحلة توم براون الريادية المبكرة

س: ما الذي تعلمته في بداية رحلتك الريادية؟ 

توم براون: لقد أدركت ذلك في وقت مبكر جدًافي بيئة ريادة الأعمال، يجب أن تكون ذئبًا، وليس كلبًا.هذا يعني عدم انتظار المهام أو اتباع التعليمات. عند بدء مشروع تجاري، لا أحد يُملي عليك ما يجب فعله تحديدًا. تواجه يوميًا مجموعة متنوعة من المشاكل الغامضة وتحديات مصيرية. هذه التجربة غرست فيّ عادة السعي الجاد لحل المشكلات، وهو تحول أعتقد أنه كان قيّمًا.

س: كيف انتقلت من ريادة الأعمال إلى الذكاء الاصطناعي؟ 

توم براون: في ذلك الوقت، شعرت أنني اكتسبت بعض الحدس والقدرة على التنفيذ في عملية بدء الأعمال، لكنني كنت أفتقر إلى المعرفة الأساسية بالرياضيات والتعلم الآلي.وهذه ضرورية إذا أردنا أن نخلق ذكاء اصطناعيا ثوريا.لقد قضيت ستة أشهر في تعليم نفسي، وتناولت مواضيع كنت أتجنبها تمامًا في السابق.أحتاج إلى قضاء وقت طويل بمفردي للتأكد من أنني لن أصبح عبئًا على الفريق، بل دورًا يمكنه حقًا مساعدة الفريق.

س: ما هو انطباعك الأعمق في الأيام الأولى لـ OpenAI؟ 

توم براون: كانت شركة OpenAI آنذاك مختلفة تمامًا عما هي عليه اليوم. كنا نعمل من مكتب صغير مؤقت في سان فرانسيسكو، أشبه بمصنع شوكولاتة، لكننا كنا قد تلقينا تمويلًا بقيمة مليار دولار.التناقض قوي جدًا: من ناحية، هناك توقعات ضخمة فيما يتعلق بالموارد، ومن ناحية أخرى، نقوم بحل المشكلات الأكثر أساسية كل يوم.لقد جربنا أشياءً كثيرة، مثل بناء بيئة ستاركرافت وتدريب عملاء التعلم التعزيزي، لكن نموذج اللغة كان مُبهرًا حقًا. عندما صدر GPT-3، كان لدى الجميع حدس: لم يكن هذا مجرد عرض تجريبي علمي، بل بدايات نوع من الذكاء العام.

س: لماذا تركت OpenAI لبدء Anthropic؟

توم براون: نشأتُ في OpenAI، ولكن كانت هناك أفكار مختلفة داخل الفريق. رأى البعض أننا بحاجة إلى مؤسسة تُراعي السلامة والمخاطر على المدى الطويل. انجذبتُ إلى هذه الأجواء، فانضممتُ إلى مجموعة صغيرة لتأسيس Anthropic.ولكي نكون صادقين، لم تكن لدينا في ذلك الوقت خريطة طريق واضحة تماما، وكنا لا نزال نتلمس طريقنا في العديد من المجالات.

س: ما هي الصعوبات التي واجهتها كلود أثناء تطويرها؟ 

توم براون: بصراحة، لم تكن بدايتنا سلسة. مع كلود 1، لم تكن النتائج على قدر التوقعات. غالبًا ما كان مجرد "نموذج أولي جيد بما يكفي" بدلًا من أن يكون إنجازًا. ومع التأخير في تطوير البنية التحتية، تأخرنا قليلًا عن الجدول الزمني.كانت نقطة التحول مع Claude 3.5 Sonnet، حيث أصبحت قدراتنا البرمجية فجأةً قويةً جدًا. هذا لم يمنحنا الأمل فحسب، بل حسّن أيضًا التقييم الخارجي لنموذجنا.

س: هل يمكنكم تقديم إطلاق أدوات Claude Code و Agent؟ 

توم براون: هذا في الواقع مثير للاهتمام للغاية.في البداية، أنشأنا Claude Code للاستخدام الداخلي فقط. لم نكن نتوقع أبدًا أن يحقق نجاحًا في السوق؛ حتى تلك اللحظة، كنا نراهن كليًا على واجهة برمجة التطبيقات (API).وكانت استجابة السوق أفضل مما توقعنا، حيث أدرك المطورون على وجه الخصوص قيمتها على الفور وأصبحوا المفتاح لفتح السوق.

صدمتا توم براون الحدسيتان: "مطابقة الطلب" و"قوانين التوسع"

س: ما هي الاختلافات التي لاحظتها بين Grouper و Tinder؟ 

توم براون: لقد نجح جروبر في جمع ثلاثة أزواج معًا في أحد البارات، وكانت هذه فكرة مثيرة للاهتمام ولكن نموها كان محدودًا. أُطلق تطبيق Tinder أثناء عملنا على Grouper. وقد حلّ التطبيق بعض المشاكل الجوهرية في المواعدة عبر الإنترنت باستخدام آلية "يضغط كلا الطرفين على زر الإعجاب قبل التطابق".على سبيل المثال، فهو يقلل من الألم الناتج عن الرفض ويجعل التجربة أكثر أمانًا بالنسبة للفتيات.وهذا يلبي احتياجات المستخدمين بشكل أفضل، لذا فإن حل Tinder ناجح.

جروبر وتيندر تطبيقان للمواعدة. هنا، يتحدث توم براون عن كيفية لقائه بمؤسس جروبر، مايكل واكسمان، ثم يناقش كيف يقدم تندر حلاً أفضل للمشاكل الاجتماعية مقارنةً بجروبر.

س: ما هو الإلهام الذي أعطاك إياه Scaling Laws؟ 

توم براون:أعتقد أن قوانين التوسع هي الاكتشاف الأكثر "خرقاء ولكن فعالاً" في مجالنا.كان قانون القياس الأصلي أشبه بخط مستقيم، حوالي ١٢ مرتبة من حيث المقدار، وهو رقم كبير جدًا، لم أرَه يتجاوز ١٢ مرتبة من حيث المقدار قط. لذا اقتنعتُ بأنأردتُ تركيز جهودي على التوسع. كان الكثيرون غير راضين آنذاك، قائلين إن هذا إهدارٌ للمال على وحدات معالجة الرسومات، لكن نتائج قوانين التوسع كانت مستقرة. أعتقد أننا يجب أن نجرؤ على القيام بأشياء "غبية لكنها مفيدة".

استراتيجيات الذكاء الاصطناعي الحالية والتحديات المستقبلية

س: ما هي التحديات التي تواجهها شركة Anthropic من حيث قوة الحوسبة والبنية الأساسية؟ 

توم براون: التحديات التي نواجهها الآن مختلفة تمامًا عن تلك التي واجهناها قبل بضع سنوات. في الماضي، كنا نهتم بمدى جودة أفكارنا النموذجية.إن العائق الحقيقي الآن هو قوة الحوسبة والطاقة. يتزايد عدد وحدات معالجة الرسومات والكهرباء اللازمة للتدريب على مستوى الذكاء الاصطناعي العام بمعدل ثلاثة أضعاف سنويًا، وهو معدل يكاد يكون غير مسبوق في تاريخ التكنولوجيا. يجب بناء مجموعات ضخمة وتحسين استخدام الطاقة.

س: كيف تخطط شركة أنثروبيك لرقائقها واستراتيجيتها؟ 

توم براون: لا نريد أن نراهن بثرواتنا على مُورّد واحد فقط، ونُجرّب أيضًا Google TPU وTranium من أمازون. هذا يُعقّد عمل فريق الهندسة، لذا نحتاج إلى توزيع فريق هندسة الأداء لدينا على جميع هذه المنصات.ولكن على المدى الطويل، فإن هذا يزيد من مرونتنا: من ناحية، فإنه يسمح لنا باستيعاب القدرة الإضافية لأن هناك قدرة أكبر بشكل عام؛ وثانياً، فإنه يسمح لنا باستخدام الشريحة المناسبة للمهمة المناسبة.

روابط مرجعية:

1.https://www.youtube.com/watch?v=JdT78t1Offo&list=PLynUse_piAuGeHpk87iKkQKvZHlcMbNrE&index=6

من قائد GPT-3 إلى المدير التقني لشركة Anthropic، يناقش توم براون الخبرة في ريادة الأعمال وقوانين التوسع والاعتماد على سلسلة توريد الرقائق. | الأخبار | HyperAI