miniからplusになるとだいぶでかい!
週末は本栖湖で潜った。淡水も高所もはじめて。ショップで事前に講習を受ける^owaowというのは新鮮な感じで、初めてのスペシャリティを手に入れた(はず)
水の中は、シルトが結構すごくて、少し水底に触れただけで一気に巻き上げる。水温差で下は結構寒かったり、流木が静かに横たわっていたり、海とは違う水中の様子を楽しむことができた。
そのあとは直前に予約したコテージで一泊。バーベキューをしたが、肉を買いすぎて食べるのが大変だった。
もう9/17かあ、なつがの時期じゃん
社で機械学習モデルをセルフホストするとどうかという話題があって、あんまり土地勘がないので調べてみることにした。とりあえずembeddingがしたくて、これにはSentenceTransformersというモジュールを使うといいらしい。multilingual-e5という多言語対応されたモデルがよさそうということで、ひとまず手元のmacbookのCPUだけで動かすとどうなるか、multilingual-e5-small というモデルを試してみた
機械学習モデルの実行のためのエコシステムというのは大変良く整っていて、SentenceTransformersにHugging Faceにホストされているモデルのモデル名を渡すだけで、勝手にダウンロードして実行してくれる。
SentenceTransformersをHTTPリクエストで操作できるOSSみたいなのがあれば良かったが、手軽に見つからなかったのでFlaskでラップすることにした。
import json
import sys
import time
import numpy as np
from flask import Flask, request, jsonify
from sentence_transformers import SentenceTransformer
model = SentenceTransformer("intfloat/multilingual-e5-small")
def embedding(sentence):
prefix = "query:"
embedding_input = prefix + sentence
t1p = time.perf_counter()
embedding = model.encode(embedding_input)
t2p = time.perf_counter()
embedding_list = embedding.tolist()
return {
"prefix": prefix,
"sentence": sentence,
"vector": embedding.tolist(),
"embedding_ms": t2p - t1p
}
app = Flask(__name__)
# flaskで公開する
from flask import Flask, request
app = Flask(__name__)
@app.route("/encode", methods=["POST"])
def encode():
print("ping")
print("request /encode", request)
print(request.json)
target = request.json["sentence"]
ret = embedding(target)
return jsonify(ret)
@app.route("/", methods=["GET"])
def index():
print("ping")
print("request /", request)
return "Hello, World!"
if __name__ == "__main__":
app.run(host="0.0.0.0", port=8080)
これでHTTPリクエストを投げてみると「こんにちは」ぐらいの文字で0.8から1.5秒くらいで帰ってくる感じだった。真面目に計測したとかではないのだけどそれくらいのオーダー。クラウドプロバイダーのCPU/GPUインスタンスだとどれくらいかかるのかなというのが気になる。
というのと、GPUインスタンスを常に立ち上げておくと結構のコストになるので、これはちょい考えものだなあという気持ちになった。バッチ処理で一括で処理できるものは使わない時はとめておけばいいが、リアルタイムにembeddingしてその結果を返すというのが必要だとすると、常に立ち上がってないといけない。
wasmちゃんとやらないといけないかも。プリミティブなものから触り直す。
先週末は今年初ダイビング。去年までは年間少なくとも10本くらいは潜ってたので、今年は少ないかも。
でも1本目でハンマーを20匹くらいみれて、最初から結構アタリだった。ケイカイでハンマー見れる時は過去毎度わりと流れていたので、あんなに流れていなくて見れたのも意外。流れていないから前よりもわりと近づけて、それも良かった。
昨今の学生は優秀、自分の当時は.. と思ったら、情報技術は革新の連続ですぐにコモディティ化するんだからという理由をつけて棚に上げていく
一つのことをうまくやるという思想とシェルの組み合わせというのは、インタラクティブなのがいいってことなのかも。パイプを繋ぐ前のコマンドで一度実行してフィードバックを得られるから、進みたい方向にすばやくいける、みたいな
Threadsほぼ使っていなくてUIわかってなかったけど、間違えて右スワイプしたらいいねされたことで、いいねと非表示を左右にスワイプしてできることが初めてわかった
便利なように見えるけど、最初はパーソナライズされてなくてひたすら左にスワイプしていて、機械学習用のデータセットを作らされている気持ちになって萎えてやめた
https://wasmedge.org/docs/start/getting-started/quick_start で wasmedgeコマンドをインストールする
https://github.com/vmware-labs/webassembly-language-runtimes/releases/tag/php%2F8.2.0%2B20230418-d75a618 から
php-8.2.0-wasmedge.wasm をダウンロードする
phpinfo.phpというファイルをつくり、<?php phpinfo(); と書く
wasmedge --dir .:. php-8.2.0-wasmedge.wasm phpinfo.php | head
Vue3のSSR、そんなに実装大きくなさそうではあった
2.xにあったbasic-rendererというのはなさそう
https://github.com/vuejs/core/tree/main/packages/server-renderer
非 Node.js 環境における使用 - Vue SSRガイド
Vue 2.x系だけどこんなドキュメントあったんだ。需要あったってことなのかなあ。3系だと同等のものを見つけられていない。
このドキュメントを見る感じ、ECMA Scriptに定義されていない、そのほかのAPIで依存しているものがあんまりないように見えて、夢ある
payloadというカラム自体は最近足されたものっぽい https://github.com/usememos/memos/blob/main/store/migration/sqlite/prod/0.22/02__memo_payload.sql
データベース見てたら、 payload というカラムに {} と入っているか {"property":{}}と入っているかの違いで、後者だったら動くが、前者だとダメっぽい。プロセスが立ち上がるときにデータを書き換えるような処理があるのかな。
手元でcloneしてきたコードだと再現しなくなってしまった
シンプルだから使っていたんだけど、気づいたらすごいコントリビューションされてどんどんリッチ寄りになってきている。MySQLなどのプロバイダをサポートしてくれるのは嬉しいんだけど
usememosの過去のメモにアクセスできないなと思ったら、バージョンアップでなんかのバグを踏んでたらしい
issueが立っていて、これと同じ状態。 https://github.com/usememos/memos/issues/3822
memos、grpc-webを使っているらしく、ブラウザのdev toolで GetMemoByUid へのHTTP Requestが200で帰ってきているようだけど、そこで得られたメモの構造体が、Reactのpropsで降ってきた後、以下のあたりでうまく扱えなくて.hasLink というプロパティがないというふうになっていそう。
一度でも更新したり投稿した最近のメモだとおこらないから、propertyのあたりが欠けていてなんか違うんかな
Cloudflare Workers KV、無料の範囲だと1日に1000回のwriteとなっていて、世の中にひろく公開するには少ないが、一人で使うだけなら問題ない、絶妙なプライシングになっている。ありがたいが。
RemixのテンプレートでCloudflare Workersを使うときは、 Pagesのプロジェクトの中でPagesのなかでWorkersを一緒に使えるみたいな建て付けらしく、Cronによる定期実行がぱっとは使えなそうだった。とりあえずwaitUntil()を使ってsteal while revalidateっぽい挙動を実装しつつ、ChecklyというSaaSで死活監視させて、死活監視のリクエストが実質キャッシュの更新をする、みたいなつくりにした