第904回 ミドルレンジのグラフィックボードで生成AI入門[Intel編]
今回は、グラフィックボードとしてミドルレンジのIntel Arc B580でllama.cppを使用する方法を紹介します。
今回は、グラフィックボードとしてミドルレンジのIntel Arc B580でllama.cppを使用する方法を紹介します。
AIでコードは書けるのに、レビューで「これ何やってるんだ…?」となったことありませんか? 自分もずっと「理解力が足りない」と思っていました。 でも原因はそこではなく、タスク分解の粒度にありました。 問題は「難しさ」ではなく「同時に出てくる概念の数」 例えば、Rustの walkdir を使ったこのコード。 for entry in WalkDir::new(path) { let entry = entry?; if entry.file_type().is_file() { println!("{}", entry.path().display())...
原題『Vite+の異常なタスクランナー または vite-task は如何にしてキャッシュの手動依存管理を止めてファイルアクセスを自動捕捉するようになったか』[1] 先日、ついに Vite+ の alpha 版がリリースされました。oxc エコシステムの全面バックアップを受けた高速なネイティブ実装ツールチェーンが揃い踏みしており、開発コミュニティも沸き立っています。 私も仕事で扱っているプロジェクトを手元で Vite+ に置き換えてみたのですが、 vp (ヴイピー) 鬼はえええ!このまま遅いやつら全部 Vite+ に置き換えていこうぜ! という気持ちになりました。 そんな Vite+ ...
はじめに 最近、AIツールが急速に普及し、その多くがRAG(Retrieval Augmented Generation)をベースにしています。開発者として自分でもLLMを使って何か作りたいと思いつつ、embedding、RAG、アライメントといった概念がなかなか腹落ちしませんでした。 そこで、RAGの基盤であるベクトルデータベースを自作してみることにしました。本番運用を目的としたものではありませんが、動くものを作ることで、セマンティック検索の仕組みを実感レベルで理解できました。 この記事では、実装の内容と、その過程で得た学びを共有します。 RAGとベクトルデータベースの関係 R...
はじめに こんにちは。PKSHA Technology で SWE をしている須藤です。 私の所属する PKSHA Speech Insight(PSI)チームでは、React + TypeScript で複数の Web アプリケーションを開発しています。 Feature 型のディレクトリ構成は広く採用されていますが、feature の数が増えるにつれて「切り方の基準がブレる」「shared フォルダが肥大化する」「テストの粒度が定まらない」といった課題が表面化します。 私たちのプロジェクトでも 200 を超える feature を運用する中で、フラットな features/ が構造...