Profile for nyarla
- Display name
- にゃるら / カラクリスタ
- Username
- @[email protected]
- Role
- admin
About nyarla
Fields
- Profile (ja)
- https://the.kalaclista.com/nyarla/
- Blog (ja)
- https://the.kalaclista.com/posts/
- Pronouns
- they/them
- Email (ja/en)
- [email protected]
- OpenPGP
- openpgp4fpr:595E03433825AE5AD82894013993542AC175077E
Bio
「人並みの人生」なんて失かった人。ネットでは「にゃるら」とか「カラクリスタ」と名乗っています、どちらかと言うとPerl界隈の人です
※ なお「NEEDY GIRL OVERDOSE」の企画・シナリオに携われた「にゃるら」さんとは別の人です
フォローにはロックを掛けていますが、相手を見て問題なさそうなら許可しています
ブログ・他のアカウントなど
運用サーバについて
この個人インスタンスでは GoToSocial の 個人的な fork を Fediverse Software として使っています
また ActivityPub の互換性の都合上、一部の実装・サービスとは相互通信が出来ない場合もありますので、その点はご了承ください
※ 今のところ、threads.net と相互通信が出来ないことを確認しています
なおこのアカウントは Amazon アソシエイトに参加しており、適格販売の商品紹介によって収入を得ています。
Stats
- Joined
- Posts
- 3668
- Followed by
- hidden
- Following
- hidden
今日試してた AI Code Completion 系ソフトウェアの中で、一番開発が活発そう + 実用できそう、と言う印象だったのは Tabby なんだけど、 VRAM が足りなくて一部のモデルしか動かせなかったので、やっぱり強い GPU が必要と言う結果になりました
ちなみに現段階の Tabby に対する nixpkgs 定義はこれ。正直あまりお行儀の良い書き方をしていないので、どこかで一回清書すると良いかもしれない:
そう言え AI Code Completion 系ソフトウェアの Tabby が時前コンパイルで動かなかった件、どうも Tabby 本体のバグだったみたいで、具体的には unsigned な値が -1 とかになって overflow してたのが原因だった
今日色々と AI Code Completion 系のやつを試していたんだけど、self-hosted 系は neovim のプラグインを自前で書かないとダメっぽそう、と言う結果になったので、nvim-cmp 向けにプラグイン書くしか無いかーと言う気分になっています
NixOS の更新を掛けたところシステムのビルドに一時間掛かった時の顔をしています
しかし turbopilot で code completion をすると GPU から怪音がする……
ちょっと前に遅いと言っていた turbopilot 、今パラメーターとか調整し直して動かしたところそれなにの速度で動いたので、速度が遅かったのは単純に自分が悪かっただけっぽい。すみません……
TabbyML/tabby 、公式の docker イメージを動かしたところ何も問題なく動いたので、やっぱり自分でビルドしたやつが動いてないだけだった
AI 周りのソフトウェア、cuda の version とか GPU の VRAM 容量とかが絡んでくるから、割と動かない原因の切り分けが大変
TaddyML/taddy を自分でビルドしてテストしてるnnだけど、どっかで overflow しているのか何故か動かない
胃が痛くなってきた…‥
人間、感情の火力が上がってくると無自覚に踏み付けるものが増えてしまうので、やはり火力を過剰に上げないことが重要
先日 X(鳥)で火力の上がった方を見た結果メンタルに悪影響が出ているので、やっぱりX(鳥)は見てはならない、と言う結論になった。
ひたすらビルドエラーを潰すだけの根気の要るお仕事
これをビルドして試そうとしているんだけど、nixpkgs でのビルドがなかなか進まないでござる：
うーん、turbopilot 、README にも書いあった通り、まだ実用的な速度で code completion は出来ないっぽいな。他のローカルで動く系は試してないんだけど
先程まで StableCode を NeoVim で使えないか、と色々調べてたんだけど、下記のプラグインやツーチェインを使えばなんとか出来そう、と言うところまで分かった。
具体的には turbopilot で StableCode のモデルを使い、それを cmp-fauxpliot 経由で使う、と言うイメージ:
週報、先週も書き損ねてそのままパスってるので、もうそろそろ書かねばならない
朝起きると昨日週報を書き忘れていた事に気づく回
GoToSocial には現状投稿 UI は無い（API はある）ので、まずクライアントを作ります、と言うところから始めることになるのよな