Windowsでライブ変換を試してみた：ニューラル変換IME「Setsuna」と次世代の日本語入力

Macの「ライブ変換」のように、変換キーを押さずに文章が漢字かな混じりになっていく入力を、Windowsでも使いたい。さらに言えば、辞書を引くだけの変換ではなく、文脈を読むニューラルモデルで変換してほしい。そう考えて、個人開発のIME「Setsuna（刹那）」をしばらく使いました。

結論から書くと、方向性には強く期待しつつも、変換の速さと使い心地にはまだ不満が残りました。そこで「GPUを使えば速くなるのでは」と試してみたところ、思ったほどの差は出ませんでした。この記事では、その検証の中身と、ほかのリアルタイム変換IME、そしてMicrosoftの新しいIME「Copilot Keyboard」を含めた今後の展望をまとめます。

Setsunaとは

Setsunaは、Windows（TSF）とLinux（fcitx5）で動く日本語IMEです。READMEでは「研究段階」と位置づけられています。

特徴は変換エンジンです。多くのニューラル変換が文章を1文字ずつ順に生成する「自己回帰型」のモデルを使うのに対し、Setsunaは「非自己回帰型」（CTC-NAT）のモデルを使います。読みを入れると、変換結果をまとめて1回の計算で出す方式です。

項目	内容
対応OS	Windows 10/11（x64）、Linux（fcitx5）
変換モデル	Bletilla-v0.1-small（CTC-NAT、Mixture-of-Experts）
モデルの形式	int8量子化（専門家部分はint4）、約116MB
推論	ONNX Runtime（CPU、1回の推論は1スレッド）
補助	並べ直し用の言語モデル（llama.cpp、任意）、辞書（約222MB）、形態素解析器（約288MB）
主な機能	ライブ変換、学習、予測（Tab）、Google日本語入力形式のユーザー辞書
ライセンス	コードはMIT、モデルはApache-2.0、辞書はCC BY-SA 4.0

ライブ変換で文脈を踏まえた候補が出てくる体験は、Windowsの標準IMEではまだ味わえないものです。一方で、私の環境では入力に表示が追いつかないと感じる場面があり、候補の並びにも納得しきれないことがありました。研究段階という位置づけを考えれば当然ですが、毎日の仕事で使い続けるには、もう一歩という印象です。

GPUを使えば速くなるのか

そこで、推論をGPUに任せたらどこまで速くなるかを試しました。実測した値をもとにシミュレーションしたところ、短縮できるのは1回の変換あたり10〜20ms程度という見込みでした。GPUドライバーなどへの依存が増えることを考えると、割に合わない。これが私の判断です。

改めて検証してみて、この判断はおおむね正しいと考えています。理由は5つあります。

1. GPUが速くするのは「推論」の部分だけ

キーを1回押してから変換結果が表示されるまでには、推論以外にも多くの処理があります。Setsunaの場合、大まかには次の流れです。

1. アプリからキー入力を受け取る（TSF）
2. 変換エンジンのプロセスへ送る（名前付きパイプ）
3. 辞書の参照、文節の区切り
4. モデルによる推論（ONNX Runtime）
5. 候補の探索（ビームサーチ）と並べ直し
6. 画面の表示を更新する

GPUで短くなるのは、このうち4だけです。参考になる数字があります。同じくニューラル変換を使うIME「karukan」をmacOSで試したブログでは、「ka」と入力して候補が返るまで、推論が18ms、キー処理全体が58msだったと報告されています（1つの環境での測定です）。推論は全体の3分の1ほどで、残りの40msはGPUでは縮みません。推論を半分にできても、全体では15%ほどの短縮にとどまります。

2. 非自己回帰型は、そもそもGPUの恩恵が小さい

自己回帰型のモデルは、出力の文字数だけ計算を繰り返します。20文字なら20回です。1回あたりの差が小さくても、回数分だけ積み重なるので、GPUの効果が大きく出ます。実際、自己回帰型のモデル「Zenzai」を使うWindows版azooKeyのREADMEは、CPUでの動作を「非常に遅いため、非推奨」としていて、CUDAかVulkanでGPUを使う前提です。

Setsunaは、変換結果を1回の計算で出す設計です。CPUでも速く動かすための設計そのものなので、GPUで縮められる余地が最初から小さいのです。10〜20msという結果は、この設計から見ても筋が通っています。

3. 「1件を少しずつ」はGPUが苦手な仕事

GPUが得意なのは、大量のデータをまとめて並列に計算することです。IMEの仕事はその逆で、数十文字ほどの短い入力1件を、キーを押すたびにできるだけ早く返す必要があります。

この規模の計算では、データをGPUへ送る時間、計算の開始を指示する時間、結果を待って受け取る時間といった固定のコストが、計算そのものと同じくらいかかります。量子化したモデルも、GPU向けの実行環境ではint8やint4の演算に対応しきれず、一部がCPUに戻されることがあります。そうなると、CPUとGPUの間でデータの往復が増えて、かえって遅くなる場合もあります。

4. 変換結果が環境で変わるおそれがある

SetsunaのREADMEには、ONNX Runtimeのバージョンを変えるとint8の計算結果がわずかに変わり、候補も変わるという注意書きがあります。同じことはGPUでも起こりうると私は見ています。GPUの種類やドライバーのバージョンで計算の細かい結果が変われば、同じ読みでもPCによって候補が違う、という状態になりかねません。毎日使う道具として、この不安定さは小さくない問題です。

5. IMEは「どこでも確実に動く」ことが一番大事

IMEは、ほぼすべてのアプリの文字入力を担います。GPUを使うとなると、次のような心配が出てきます。

• ドライバー依存：NVIDIA・AMD・Intelでそれぞれ動作を確かめる必要がある。CUDAを使うなら、数百MB以上の追加インストールも必要になる
• ノートPCの省電力：使っていない独立GPUは電源が落ちていることがあり、起こすまでに待ち時間が出る
• ほかの処理との取り合い：ゲームや動画編集でGPUが埋まっているときに、文字入力が引っかかる
• トラブル時の切り分け：入力が遅いとき、原因がIMEなのかドライバーなのか、利用者には判断しにくい

10〜20msのために、これらを抱え込むのは割に合いません。

判断の前提と、GPU以外の改善の余地

1つだけ補足しておきます。この判断は「推論以外の処理が無視できない大きさ」という前提に立っています。もし全体が40msで、そのうち推論が30msを占めるなら、20msの短縮は体感できる差になります。GPUを試す前に、まず1回のキー入力の内訳を測るのが確実です。

そのうえで、GPUに頼らずに改善できそうな点はいくつか考えられます。

• 推論のスレッド数：READMEによると、現在は1回の推論を1スレッドで動かしています。CPUの複数コアで分担すれば、依存を増やさずに短縮できる可能性がある
• 入力の差分を使う：1文字増えるたびに全体を計算し直すのではなく、前回の結果を再利用する
• 起動直後の読み込み：変換エンジンは、最後のアプリが離れてから10分で終了し、並べ直し用の言語モデルは60秒使わないと解放されます。モデルと辞書を合わせると数百MBあるので、しばらく使わなかった後の最初の入力が重く感じられる原因になりえます
• 表示の工夫：並べ直しの結果を後から差し替える仕組み（defer_ms）はすでにあります。まず速い候補を出し、精度の高い候補で後から置き換える考え方は、体感速度の改善に効きます

GPUを使うなら、むしろ期待したいのはNPUです。Copilot+ PCのように、OSが管理するAI向けのチップが標準で載るPCが増えれば、ドライバーの心配を利用者が負わずに推論を任せられるようになるかもしれません。

ほかのリアルタイム変換IME

ライブ変換やニューラル変換を使えるIMEは、ほかにもあります。

IME	対応OS	変換の方式	特徴
macOS標準の日本語入力	macOS	非公開	2014年ごろからライブ変換を搭載。最も広く使われているライブ変換
azooKey	iOS、macOS	ニューラル変換「Zenzai」（自己回帰型、llama.cpp）	個人開発から始まったオープンソースのIME。MacではGPUを使い、M1以上が望ましいとされる
azooKey-Windows	Windows	azooKeyのエンジン＋Zenzai	有志によるWindows版。ライブ変換に対応。CPUは非推奨で、CUDAかVulkanを使う。開発中
karukan	Linux、macOS	GPT-2/Qwen3ベースの小型モデル（llama.cpp）	CPUで推論する設計。ライブ変換に対応（Ctrl+Shift+Lで切り替え）。SetsunaのTSF部分の一部はkarukan-tsfに由来
Setsuna	Windows、Linux	非自己回帰型（CTC-NAT）	本記事で紹介。研究段階

Windowsの主要なIME（Microsoft IME、Google日本語入力、ATOK）は、どれも標準ではライブ変換を備えていません。Windowsでライブ変換を使いたければ、現状はazooKey-WindowsかSetsunaのような、個人・有志のプロジェクトを選ぶことになります。どちらもコード署名がないため、インストール時にWindowsの警告が出る点にも注意してください。

ライブ変換の良さと弱点

使ってみて感じた良さと弱点を整理します。

良さ

• 考えを止めずに書ける：変換キーを押して候補を選ぶ動作がなくなり、文章を書くことに集中できる
• 文脈を踏まえた変換：ニューラル変換と組み合わせると、前後の文から同音異義語を選び分けてくれる
• 打鍵が減る：変換と確定の操作が減る分、長文ほど効いてくる

弱点

• 表示が揺れる：入力のたびに表示が書き換わるため、目で追うと落ち着かない。慣れるまでは疲れる
• 誤変換に気づきにくい：自分で選んでいない分、確定後に読み返して初めて間違いに気づくことがある
• 直しにくい：文節の区切りを間違えたときの修正は、通常の変換より手間がかかる場面がある
• 速さに敏感：表示が入力に遅れると、それだけで使いにくくなる。通常の変換なら気にならない遅れでも、ライブ変換では目立つ
• 固有名詞・専門用語に弱い：ニューラル変換はもっともらしい表記を作ってしまうことがある（SetsunaのREADMEも、辞書にない候補が出ることを注意点として挙げている）

速さに敏感という点が、Setsunaで私が感じた不満の正体だと思います。ライブ変換は、変換の精度と同じくらい、入力に表示が遅れないことが使い心地を左右します。

どのくらい知られているか

Macを使っている人にとって、ライブ変換は身近な機能です。ただ、Macを使い始めて最初にオフにする設定として名前が挙がることも多く、好みがはっきり分かれる機能でもあります。

Windowsでは、そもそもライブ変換という言葉を知らない人が大半だと思います。標準のIMEにない以上、試す機会がないからです。ニューラル変換IMEとなると、知っているのは一部の開発者や入力方式に関心のある人に限られます。今はまだ、試すにはGitHubからインストーラーを取ってくる必要がある段階です。

これから：Copilot Keyboardと「AIの入り口としてのIME」

この状況に、Microsoftも新しい動きを見せています。2025年10月にベータ版が公開され、2026年4月23日に正式版になった日本語IME「Copilot Keyboard」です。

項目	内容
対応環境	Windows 11のみ（x64・ARM）。無料
新語の追加	Bingの検索データをもとにCopilotが新しい言葉を拾い、辞書に定期的に追加する（開発者によると月に1,000〜2,000語ほど）
データの扱い	学習した内容は端末内のユーザー辞書にだけ保存し、外部に送ったりAIの学習に使ったりしないと説明されている
主な機能	変換候補の横に用語の説明を出す「Copilot Answer」、検索への移行、再変換、かな入力、キーのカスタマイズ
キャラクター	Officeのイルカ「カイル」などのキャラクターがデスクトップに登場する

既存のMicrosoft IMEも残っていて、設定で切り替えられます。

注目したいのは、変換の仕組みそのものよりも方向性です。窓の杜のインタビューで、開発者の山岸真人氏は、日本語変換の基本的な機能は「もうできている」とし、今後は入力の手を止めずにCopilotを呼び出す方法や、文体・定型句などのパーソナライズを模索していると話しています。ただし、パーソナライズは「技術的な問題より、プライバシーの問題のハードルが高い」とも述べています。なお、確認した範囲では、Copilot Keyboardにライブ変換の機能は見当たりませんでした。

Windows 11全体でも、あらゆる入力欄で文章を生成・書き換えできるAI機能が予定されています。SetsunaにもOpenAI互換のAPIで変換結果を書き直す機能があり、URLやパスワードらしい文字列は送らないよう除外の仕組みが用意されています。

ここから見えるのは、IMEが「読みを漢字に変える道具」から「AIに文章を手伝ってもらう入り口」へ変わりつつある流れです。私は、今後の日本語入力は次の2つの層に分かれていくと見ています。

1. 変換の層：手元の小さなモデルで、速く、どこでも同じように動く。ライブ変換はこの層の上に乗る。Setsunaやkarukanが目指しているのはここ
2. AIの層：書き直しや要約、調べものなど、少し待ってもよい処理。クラウドの大きなモデルや、NPUを使った端末内のモデルが担う。Copilot Keyboardが広げようとしているのはここ

変換の層には「速さ」と「確実さ」が求められ、AIの層には「賢さ」と「プライバシーへの配慮」が求められます。GPUに依存してまで変換の層を速くするのは、この切り分けからも筋が悪いと考えています。

まとめ

Windowsでライブ変換とニューラル変換を使いたい、という願いは、Setsunaのような個人開発のIMEによって実現し始めています。ただ、毎日の仕事に使うには、速さと使い心地にまだ課題があります。

GPUで推論を速くする方向は、短縮できる時間が10〜20ms程度と小さいうえ、ドライバーへの依存や環境による結果の違いといった負担が大きく、割に合わないと私は判断しました。非自己回帰型でCPUでも速く動かす、というSetsunaの設計そのものが、すでに正しい答えに近いと思います。残る改善は、推論以外の処理の短縮や、起動直後の読み込み、表示の工夫にあるはずです。

一方で、MicrosoftはCopilot Keyboardで、IMEをAIの入り口にしようとしています。速く確実な変換は手元で、賢い支援はAIで。この2つがうまく組み合わさったとき、Windowsの日本語入力は本当に次の世代に進むのだと思います。

参考リンク

• Setsuna（esehehelp/setsuna-ime）
• Bletilla-v0.1-small（Setsunaの変換モデル）
• azooKey-Windows（fkunn1326/azooKey-Windows）
• AzooKeyKanaKanjiConverter：Zenzaiのドキュメント
• karukan（togatoga/karukan）
• KarukanをmacOSに入れたらGoogle日本語入力より軽快だった
• Copilot Keyboard - いよいよ、正式版になりました（Windows Blog for Japan）
• 「Copilot Keyboard」は「カイル」くんが居るだけのIMEではない ～開発者に聞く開発秘話（窓の杜）
• マイクロソフト、日本語入力アプリ「Copilot Keyboard」が正式版に（Impress Watch）
• Windows 11 is gaining a powerful set of new AI productivity features in 2026（Windows Central）