実践的パフォーマンスエンジニアリングによるAI高速化
株式会社フィックスターズ/吉藤 尚生/浅原 明広/飯塚 拓郎/小田桐 海翔/木村 圭佑技術評論社ISBN 9784297153496
パフォーマンスチューニングタグで同率14位（20冊中）。Zenn・Qiitaなどの1記事で紹介（時点）。
- 紹介記事
- 1件
- 媒体別
- Zenn 1
- 初めての紹介
- 最新の紹介
この本を選ぶ前に
- タグ内の順位
- パフォーマンスチューニングタグで同率14位（20冊中・紹介記事数の順）
紹介している記事（1件）
記事ごとの説明は、記事本文のうちこの本に触れた部分をAIが要約したもので、筆者の原文ではありません。
- 社内輪読会:実践的パフォーマンスエンジニアリングによるAI高速化 Zenn · pancho · · いいね 3
社内輪読会の教科書として約2か月で一周した。筆者は「推測するな、計測せよ」やPyTorch Profilerが役立ったとする一方、3章は難しく理解できていない点が多いと述べる。5・6章はリソース不足で試せず、講師陣は計測の考え方や実務で試せる内容を得たとしている。
この本について
AIシステムの処理速度、レイテンシ、メモリ効率を計測し、ボトルネックの特定から改善まで進めるパフォーマンスエンジニアリングを扱う。計測ではレイテンシや学習・演算スループットを取り上げ、time.perf_counter、nsys、PyTorch Profilerを使う方法を説明する。改善手法には量子化、蒸留、KVキャッシュ、投機的デコーディング、MoE、データ並列などが含まれ、推論エンジンの選定やアルゴリズム、モジュール構成の見直しも扱う。第7・8章では自動運転AIを取り上げる。
紹介記事と書誌情報をもとにAIが要約したものです。原文の転載ではありません。