AI・機械学習・データサイエンス– category –
-
Pikaとは|スタンフォード発の動画生成スタートアップ
Pika Labs(現Pika)はスタンフォード大学博士課程をドロップアウトしたDemi Guo氏とChenlin Meng氏が2023年4月に創業した動画生成AIスタートアップです。同年11月にPika 1.0を発表し、Discordベースの提供から始まりました。2023年12月にLightspeed Venture... -
Runwayとは|映像制作者向けに先行した生成AIプラットフォーム
Runway(法人名Runway AI, Inc.)は2018年にCristóbal Valenzuela、Anastasis Germanidis、Alejandro Matamalaの3名がニューヨーク大学Tisch School of the Artsで創業した生成AIスタートアップです。映像制作者を主要顧客に据え、Green ScreenやInpainting... -
OpenAI Soraとは|テキストから動画を生成する世界モデル
Soraは2024年2月15日にOpenAIが研究プレビューとして発表したテキストto動画生成モデルで、最長60秒・1080p解像度の動画を一括生成できる点で業界に衝撃を与えました。Diffusion Transformer(DiT)を基盤に、動画を時空間パッチへ分解して学習するアーキテ... -
Midjourneyとは|Discord発のアート特化型画像生成AI
MidjourneyはLeap MotionのCTOだったDavid Holzが2021年に立ち上げた独立系研究所で、同名の画像生成サービスは2022年7月にオープンβ版を開始しました。最大の特徴はDiscordをUIとして採用し、/imagineコマンドでプロンプトを送ると4枚のグリッド画像が返... -
DALL·Eとは|OpenAIが切り開いた画像生成AIの系譜
DALL·E(ダリ)は、OpenAIが2021年1月に発表したテキストから画像を生成するマルチモーダルAIです。シュルレアリスム画家サルバドール・ダリと、Pixarのロボット映画WALL·Eを掛け合わせた名前で、12億パラメータのGPT-3派生モデルとして登場しました。2022年... -
Annoyとは何かSpotify製の近似最近傍探索ライブラリ
AnnoyはApproximate Nearest Neighbors Oh Yeahの略で、Spotifyのエンジニアだったエリック・バーンハードソンが2013年に公開したオープンソースの近似最近傍探索ライブラリです。音楽レコメンドにおけるユーザ・楽曲埋め込みの近傍探索を高速化するために... -
Vertex AI — GCP統合ML/生成AIプラットフォーム
Vertex AIは2021年5月のGoogle I/Oで発表された、Google Cloudの機械学習統合プラットフォームである。それまでGCPに散在していたAI PlatformやAutoML、AI Hubといったプロダクトを一つの傘の下に再編し、データ取り込みからモデル学習、デプロイ、監視ま... -
DeepSpeed — 大規模モデル学習を可能にしたMicrosoftの分散基盤
DeepSpeedは、Microsoft Researchが2020年2月に公開したPyTorch向けの分散学習・推論最適化ライブラリで、数十億〜数兆パラメータの巨大モデルを限られたGPU資源で訓練できるようにする一連の技術を提供します。中核となるのが「ZeRO」（Zero Redundancy O... -
TRL — LLMを強化学習・選好学習でしつけるライブラリ
TRL（Transformer Reinforcement Learning）は、Hugging Face社が2020年に公開したPython製ライブラリで、Transformer系言語モデルを強化学習や選好学習でファインチューニングするための実装を集約しています。もともとはレオンドロ・フォン・ヴェラ氏が... -
PEFT — LoRAなど省パラメータ微調整を束ねるライブラリ
PEFT（Parameter-Efficient Fine-Tuning）は、Hugging Face社が2023年初頭に公開したPython製ライブラリで、数十億〜数百億パラメータの巨大モデルを「ごく一部のパラメータだけ」更新して微調整する技法をまとめて扱えるようにします。代表的な手法はLoRA...
