カテゴリー: メモ

すごく大雑把に考えて、Attention機構がトークンが持つベクトルのうちの一つの次元を強調するものなら、assocリストの一つの要素を選択するのとあまり変わらないのではないか。
一つのassocリストの処理だけを考えると非常に離散的だけど、同じようなassocリストが集団となって処理される場合、大域的に見ると連続的な操作・学習のためのバックプロパゲーションも可能なのではないか。
もしそれがうまく行くなら、学習・推論のための電力消費を減らせるかもしれない。
例えば、SSD上に多数のリストを保管し、処理過程ではそのうちの一部のリストがメモリに載るだけとなる。その「一部」の選択はある程度ランダムなものである。（大脳の神経系も記憶集団のうち一部の神経しか発火していないのではないかとも思っている。）

世界の文化をLLMに入れ、「これについてキリスト教文化での評価は」「これについてイスラム教文化での評価は」など、各文化での評価がすぐに得られるようになれば（意図的に衝突を起こそうと思う人々の問題は別にして）文化間の衝突を少なくできるのではないか。

ウクライナ侵攻により環境問題は後回しにされ、エネルギー資源を持つ国が発言権を強める。だから逆に化石燃料に頼らなくなるほうが紛争を起こしにくくできるのでは。

海の緑化といっても実際に緑色にするわけではなく、植物プランクトンを増やす方法を考えたい。海面には日光は十分にあるのであとミネラルを補給すれば植物プランクトンが増えるのではないかと思う。
ミネラルを補給する方法
1.海底に数百メートルの板を海流に沿って配置し、海底付近の流れを海面に送る。
2.海上風力発電の電力で、海底に空気を送り込んで上昇流を作る。
3.海上都市をつくり、安全な排水を海面に流す。

まだ調べ始めたばかりだけど、海は切り札だと思う。