編集者注：現在、大規模なAIモデルは、会話、文章作成、コーディングなど、人間の生活のほぼあらゆる側面を支援することができます。大規模AIモデルの急速な発展を考えると、AIプロフェッショナルを目指す人々は躊躇するかもしれません。 「今からこの分野に参入するには遅すぎるのではないか？」

著者は、自身のキャリア転換の経験と AI 市場の評価に基づき、人工知能の分野に参入するには決して遅すぎることはなく、今がまさにそのタイミングであると主張しています。

本記事では、「AIがあらゆるものに浸透する」時代に必須のAI知識をいかに早く習得するか、AI時代に自分らしいキャリアパスを見つける方法についても詳しく解説します。

翻訳はこちらです。お楽しみください!

著者| swyx

編纂者：岳陽

開発者の友人が最近、「もし20歳だったら、全てを捨てて人工知能に全力を注ぐのに」と言っていました。しかし、彼は既に10年以上かけて必要なスキルを習得し、人脈を築き、確固たる評判を築き、その分野の頂点にまで上り詰めています。そのため、今の分野に留まらざるを得ないのです。もう一人の大学時代の年上の友人は、上場しているテック系スタートアップの幹部です。彼は今の仕事で素晴らしい成果を上げており、ほぼ完璧な経歴と、誰もが羨むような実績を誇っています。しかし、彼は今、方向転換を決意しました。「人生は短い」と私に言ったように、人生の終わりに「もし…だったら」と考えたくないのです。

ここ数日、技術分野の友人ともそうでない友人とも似たような会話をしてきました。この記事では具体的な技術開発に焦点を当て、急速に進化するテクノロジーについて共有したいと思っていますが、キャリアトランジションについては、私が特に得意とするテーマであるため、特集記事として取り上げる必要があると考えています。

01 30代の転換期

30歳で初めて転職を決意した時、どれほど不安だったか覚えています。金融業界で6～7年働いていましたが、16歳から金融業界で働きたいと思っていました。世界中を飛び回り、CEOに質問し、ヘッジファンドの10億ドルの資産運用を手伝うような仕事です。見た目は立派でしたが、心の奥底では満足しておらず、これが私の最終目標ではないと感じていました。ゼロから何かを生み出すことに比べれば、寄付基金や年金基金を大きくすることなど取るに足らないことに思えました。そこで、金融業界からソフトウェアエンジニアリング（そして開発者との関係構築）へと転身することを決意しました。その後の展開はよく知られています[1]。

6～7年後、私は再び転職しました。ソフトウェアエンジニア（SWE）から人工知能（AI）への転換は、金融からソフトウェアエンジニアへの転換とほぼ同じくらい大きな転換だったと思います。どちらもコンピューター分野なので表面上は似ているように見えますが、仕事を効果的にするには多くの新しい知識と実践的な経験が必要です。私の転換戦略は前回と同じで、最初の6か月間はできる限り毎晩と週末に勉強し、自分が進もうとしている分野（注1、本文の最後で説明、以下同様）に強い関心を持ち、有意義な進歩を遂げられるようにしました。その後、過去に別れを告げ、全力を尽くし、全力で取り組み、自分がこの分野に入ったことをみんなに伝え始めました[2]（注2）。

しかし、これはあくまで私の状況に当てはまるもので、人それぞれ状況は異なるでしょう。意欲があれば、転職を成功させる方法は必ず見つかると信じています。この記事は、決断力をつけるための自信をつけたい人のために書かれています。

テクノロジー業界でのキャリア選択には、隠れた年齢差別やサンクコストの誤謬が蔓延していると私は考えています[3]。そこで、年齢を理由に転職を諦める必要がない理由をいくつかご紹介します。

02 高齢であっても AI 分野に参入すべき理由は次のとおりです。

2.1 人工知能の巨大な可能性と急速な発展

• ジェフ・ベゾスは30歳で金融業の仕事を辞め、アマゾンを設立した。

• 彼がそうしたのは、1994 年にインターネットの利用が年間 2,300% の割合で増加していたためである。

• 汎用技術[4]（注3）の普及には数十年かかるだろう。

• 2000 年や 2010 年にテクノロジー業界の「新星」になれたかもしれないのに、「遅すぎる」と判断してインターネット業界に参入しなかったとしたらどうでしょう。

• 1月以降、ChatGPTの利用は1000%増加しました[5]（注4）。

2.2 AI導入に必要な時間は想像以上に短いです。

• 博士号を取得して機械学習の分野に進まない場合は、CourseraでAndrew Ngのコースを3か月ほど受講する必要があります[6]。そして、機械学習の分野で何か面白いことをするには、数年にわたる独学と実践経験が必要であることを理解する必要があります。

• しかし、生成AIの学習パスを習得することはますます簡単になりつつあります。（注5）

• ジェレミー・ハワード氏のfast.aiコース[7]は、2016年から7週間で学生を人工知能分野に導けると謳ってきました。2022年までに、ハワード氏は学生を10回の90分セッションで指導し、安定拡散[8]を再現しました。スハイル・ドーシ氏は2022年6月に同コースを受講し、11月にPlayground.aiを立ち上げました[9]。

• これは、2017年に導入されたTransformerアーキテクチャが一因となっています。Transformerアーキテクチャはそれ以来、ほぼすべてのAI分野[10]に導入され、強力で柔軟なベースラインを提供し、従来のアーキテクチャに関する知識を時代遅れにしています。したがって、学ぶべき研究は数十年ではなく、過去5年間の研究だけです。

https://www.stateof.ai/2018

• AIに関わる数学について、読者から質問がありました。AIが「行列乗算だけを使う」 [11]かどうかは議論の余地があります。大学の線形代数や微積分の授業で行列乗算を学ぶこともできますが、私の答えは「必ずしも学ぶ必要はない」です。現在利用可能なAI開発フレームワーク（PyTorchなど）は、あらゆるバックプロパゲーションや行列操作に役立ちます。

• もちろん、近道をしても技術革新を牽引できる博士号を取得できるわけではありません。しかし、トップクラスのAI研究者のキャリアを見れば、最高レベルに到達するまでにどれくらいの時間がかかるのかが分かります。Yi Tay氏はGoogleの最新のLLMプロジェクトの多くに貢献、あるいは主導してきましたが、彼が博士号を取得してからわずか3.3年しか経っていないと知ると、驚かれるかもしれません。Ashish Vaswani氏は博士号取得からわずか3年後にTransformerの論文を発表し、 Alec Radford氏は学士号取得からわずか2年後にGPTとGPT-2の論文を発表しました。

• このようなキャリアパスは、物理学、数学、医学などのより成熟した分野では発生しません。なぜなら、これらの分野では「FOOM（圧倒的な習熟の急速な開始）」 [12]の時代が何世紀も過ぎ去っている一方で、 AIの「ブーム」が明らかに起こっているからです。

• これらの言葉は、この分野がまだ非常に若い分野であり、20年後には「ゲームに乗り遅れた」と感じても誰も気にしなくなることを示しています。

2.3 機械学習分野の専門研究者になる以外にも、選択できる分野はたくさんあります。

• プロンプトと大規模モデル機能の研究：ライリー・グッドサイドのキャリアは、2022年にGrindrのデータサイエンティストからTwitterでGPT-3の使い方のヒントを投稿することで世界初の高レベルプロンプトエンジニアへと劇的な転換を遂げました。[14] 彼はまた、LLMの重要なセキュリティ問題である「プロンプトインジェクション」を発見し、普及させました[15]。それ以来、多くの人がGPT-3とGPT-4の興味深いユースケースを見つけることがソーシャルメディアで人気があることに気付きました。

• ソフトウェアエンジニアリングの分野では、 Whisper.cppとLLaMA.cppが最近、ユーザー端末で大規模モデルを実行することへの関心を呼び起こしました。[16] 私はChangelogでGeorgi Gerganovのインタビューを聞きました。[17] そして、彼が2022年9月に楽しみのためにWhisperをC++に移植しただけで、自分自身を「AI非信者」と表現したことを知りました。LLaMA.cppはStable Diffusionよりも急速に成長しています。[18] Stable Diffusionはすでに、史上最も急速に成長しているオープンソースプロジェクトの1つです。[19] モデルのトレーニングが不足しているにもかかわらず、Georgiのソフトウェアエンジニアリングの専門知識により、これらの基礎モデルはよりアクセスしやすくなっています。Harrison ChaseのLangchain。 [20]は、すべての開発者がアクセスできる最初のプロンプトエンジニアリングフレームワークを構築し、プロンプトとソフトウェアの改善を事前トレーニング済みのLLMモデルに統合することで、大きな注目を集めています。 GuardrailsからNat.devに至るまで、様々なLLMツールが、学術分野と商用アプリケーションにおけるこれらのモデル間のギャップを埋めるのに役立っています。ChatGPT自体は、GPT 3.5シリーズのモデルとともに提供されるユーザーエクスペリエンスの革新であり、フロントエンド/UI開発者にとって朗報です。

• AIの製品化：安定的拡散に関して言えば、エマド・モスタクは2019年までヘッジファンドマネージャーを務めており[21]、息子のために「自閉症の文献レビューと神経伝達物質の生体分子経路解析[22]」に関する研究を行った以外、AIの経験はなかったようだ。しかし、2020年にEleutherAIコミュニティに参加した後、彼は安定的拡散のようなものが可能であることを認識し、ハイデルベルク大学のCompVisグループ[24]のパトリックとロビン[23]を見つけ、2022年の2番目、あるいは最も重要なAI製品のトレーニングと提供に約60万ドルを提供した。誰が何をしたかを精査したがる人はいないが、元ヘッジファンドマネージャーが機会を見出し、時が来たアイデアに財務的（そして組織的）な影響力を活用することで巨額の利益を得ることができたのは理にかなっている。ナット・フリードマンは、長年の研究の結果として生じた余剰生産能力[25]が十分な数のスタートアップ企業によって吸収されておらず、デイブ・ローゲンモーザーのような起業家が早い段階でこの流れに乗ってジャスパーのARR（会計上の自己資本利益率）を2年でゼロから7500万ドルに成長させ、不釣り合いな報酬を得るだろうと公に述べています[26]。

様々な業種の既存企業やスタートアップ企業が人工知能（AI）の活用を進めており、将来は「AIがあらゆるものに浸透する」時代となることが示唆されています。そのため、基盤となるモデルを理解することは、モデルのトレーニングやセキュリティ、認識機能の検討といった目的そのものではなく、それらを活用するための手段となる可能性があります。自分自身や将来の方向性について考えるのではなく、「AIを学ぶために転職する」のではなく、既に興味のある分野や得意分野において「AIを活用する方法を学ぶ」ことに焦点を当てましょう。

最後に挙げた年齢に関する主張は普遍的なものです。自分自身に挑戦することは脳に良い影響を与えます。一般的に神経可塑性は25歳を過ぎると停止すると考えられていますが、これには異論もあります[27]。より広範な見解としては、継続的な学習は認知的予備力を高め、認知症やアルツハイマー病などの悪性神経変性疾患の予防に役立つという点が挙げられます。

AI を理解し、それを現実世界の状況に適用する方法を見つけることと同様の課題に取り組んでいますか?

03 人工知能を学んだ経緯

fast.aiのコースの内容を修了しましたが、私自身がキュレーションしたTwitterリスト[28]で実践者をフォローし続け、メモをGitHub AIリポジトリ[29]とLatent Space Discord[30]の公開リポジトリに投稿しています。重要な新しい論文のほとんどは、発表された週に読み始め、多くのいいねを獲得しているプロジェクトや製品のコードも可能な限り実行したり読んだりしています。今後予定しているポッドキャストの「Fundamentals 101」シリーズではAIの基礎を取り上げますが、このシリーズをきっかけに、より多くの論文を読み、今日では当たり前のことになっているものの歴史について学ぶようになりました（注6）。

https://github.com/sw-yx/ai-notes/blob/main/Resources/Good%20AI%20Podcasts%20and%20Newsletters.md

注記：

1. どちらのキャリア転換も、ゼロから始めたわけではありません。13 歳のときに BASIC プログラミングに触れ、26 歳のときにオプション トレーダーとして働きながら、ブローカーの価格を解析する非常にシンプルな自然言語処理コードを作成しました。その内容を皆さんにお見せしたいのですが、時間が経ちすぎてそのコンテンツがもう見つかりません。

2. 学習プロセスのコンテンツをコミュニティで公開すると、人間の中で最も速い学習速度L((PN)^2)を達成できます。[31]

3. このAIの波は非常に巨大です。もし私の言葉が信じられないなら、ビル・ゲイツ[32]の言うことを聞いてください。彼は、AIはグラフィカル・ユーザー・インターフェース以来最も重要な技術的進歩だと言っています。

4. 冬が来ています。いつか、このAIの夏は終わり、再びAIの冬[33]が訪れます。このAIの波を理解することが重要なのは、インターネット業界が2001年の不況後に短期間しか停滞しなかったように、このAIの波もどんな冬にも耐えうる可能性があるからです。

5. 生成AIという用語を無理やり使うのは、誇張されすぎていると誰もが思うので不安です[34]...しかし、まだこれより良い代替案は見つかっていません。

6. 繰り返しになりますが、学習内容を公開コミュニティで共有することは、個人的な評判への影響を懸念しているため重要です。私は可能な限り正確さを追求しているため、間違いを犯した際には大きなプレッシャーを感じます。

終わり

参考文献

[1]https://learninpublic.org/

[2]https://www.swyx.io/learn-in-public

[3]https://thedecisionlab.com/biases/the-sunk-cost-fallacy

[4]https://en.wikipedia.org/wiki/General-Purpose_technology

[5]https://twitter.com/swyx/status/1640561992472866816

[6]https://www.coursera.org/specializations/machine-learning-introduction

[7]https://www.fast.ai/posts/2016-10-08-course-background.html

[8]https://www.fast.ai/posts/part2-2022.html

[9]https://twitter.com/Suhail/status/1591813110230568963?ref=hackernoon.com

[10]https://twitter.com/karpathy/status/1468370605229547522

[11]https://twitter.com/search?q=%22just%20matrix%20multiplication%22&src=typed_query&f=top

[12]https://www.latent.space/p/ok-foomer

[13]https://www.linkedin.com/in/goodside/

[14]https://twitter.com/swyx/status/1616541173996482560?lang=en

[15]https://twitter.com/goodside/status/1617735459026915329

[16]https://news.ycombinator.com/item?id=35111646

[17]https://changelog.com/podcast/532#transcript-8

[18]https://twitter.com/ggerganov/status/1635636358126370817

[19]https://a16z.com/2022/11/16/creativity-as-an-app/#section--1

[20]https://langchain.com/

[21]https://en.wikipedia.org/wiki/Emad_Mostaque

[22]https://twimlai.com/podcast/twimlai/stable-diffusion-generative-ai/

[23]https://research.runwayml.com/the-research-origins-of-stable-difussion

[24]https://github.com/CompVis

[25]https://stratechery.com/2022/an-interview-with-daniel-gross-and-nat-friedman-about-the-democratization-of-ai/

[26]https://techcrunch.com/2022/10/18/ai-content-platform-jasper-raises-125m-at-a-1-7b-valuation/

[27]https://www.goodtherapy.org/blog/change-is-a-choice-nurturing-neuroplasticity-in-your-life-0930154

[28]https://twitter.com/i/lists/1585430245762441216

[29]https://github.com/sw-yx/ai-notes/

[30]https://discord.gg/xJJMRaWCRt

[31]https://www.swyx.io/big-l-notation

[32]https://www.gatesnotes.com/The-Age-of-AI-Has-Begun

[33]https://en.wikipedia.org/wiki/AI_Winter

[34]https://www.latent.space/p/why-prompt-engineering-and-generative

この記事は、原著者の許可を得てBaihai IDPによって翻訳されました。翻訳の転載をご希望の場合は、お問い合わせください。

オリジナルリンク:

https://www.latent.space/p/not-old