← ブログ一覧

「書くAI」と「採点するAI」をつなぐと、何が起きるか──全自動ではなく、「検査付き」がタダになる

JevAIエージェントガードレール業務自動化AI導入経営者向けシステム設計中小企業

第3回で、7年前の「AI予測マーケティング」がJevで半分だけ生き返った、と書きました。残った壁の一つに「迷っている客に、何を出すか」がありました。Jevは判定を返すだけで、打ち手の文章は作らない。

最終回は、その「作らない」を、文章を書くAIに任せる話です。実は、この連載で一番言いたかったのはここです。


第1回のデモを、もう一度

第1回で貼ったEC接客の試作を、思い出してください。左で文章を書くAIがお客と会話し、右でJevがその会話を聞きながら「贈り物か自分用か」「予算はいくらか」を○×と点数で判定して、合う商品を並べ替えていました。

あれは、AIが一人で動いていたのではありません。二人一組です。

  • 書く係(文章を書くAI):お客に話す。返信を書く。説明を作る
  • 採点係(Jev):書く係の横で、○×と点数を付ける

Jevを作ったTypeSafe社も、Jevの用途の一つに「文章AIの出力を採点し、検証し、ガードレールにする」を挙げています。文章AIが書いたものを、Jevが検査する。この組み方が、今回の主役です。


今まで、文章AIの返事は誰が確認していたか

御社で、文章AIに問い合わせの返信案を書かせているとします。その返信、送る前に誰が見ていますか。

選択肢は、実質二つでした。

チェックせずに流す。 速くて安い。ただし、AIが「今なら2割引です」と勝手に書いても、止まりません。

人が全部読む。 安全。ただし人が全部読むなら、AIに書かせて浮いた時間の半分は消えます。

三つ目の手も、無くはなかった。文章AIに「この返信に問題はないか」ともう一回聞く。ただ、もう一回分の料金と数秒が乗り、その「検査の返事」自体がまた文章なので、たまに形が崩れる。だから検査は、「人がやるか、やらないか」になりがちでした。


Jevで変わるのは、「検査の値段」

Jevは、ここに入ります。書く係が返信案を書いたら、送る前に、採点係に5問聞く。

「お客の質問に答えているか」「値引きを約束していないか」「納期を勝手に言っていないか」「社外秘に触れていないか」「敬語になっているか」

5問で0.5秒以内、料金はほぼゼロです(第1回で書いた通り、料金は読ませた文字の量にだけかかり、返事は無料。25問まで一度に聞いても時間はほぼ同じ)。全部○なら、人が一目見て送る。一つでも×なら、人が読む。

「検査付きの自動化」の流れ。左から、問い合わせメール → 採点係(Jev)が4問:急ぎか・どの部署か・怒っているか・人が要るか → 書く係(文章AI)が返信案を書く → 採点係が5問:質問に答えているか・値引きを約束していないか・納期を勝手に言っていないか・社外秘に触れていないか・敬語か → 全部○なら「人が一目見て送る」、一つでも×なら「人が読む」。採点係の判定は0.5秒・ほぼゼロ円。

つまり変わったのは、自動化の「量」ではなく、検査の値段です。検査がほぼ無料で0.5秒になったので、「検査付きの自動化」が、「検査無し」と同じ値段で組める。 検査を省いていた理由が、消えました。

どちらから来るかで、得るものは違います。今「チェック無しで流している」なら、値段はそのままで、安全が足されます。今「人が全部読んでいる」なら、人が読む件数が減る代わりに、採点係の見逃しを人も見逃す可能性が少しだけ乗ります。


なぜ、第2回の「91.7%」でも成り立つのか

第2回で、Jevは単純なルールに負けた試験がある(97.2%対91.7%)と書きました。その採点係に、検査を任せて大丈夫なのか。

大丈夫な置き方と、危ない置き方があります。

採点係が間違える方向は二つ。「問題ない返信を×にする」と、「問題ある返信を○にする」。

前者は、人に回るだけです。人が読んで、問題ないと分かって送る。手間が一件増えるだけ。

後者は、問題ある返信が通る。ただしそれは、今の「チェック無しで流す」と同じ被害です。今より悪くはならない。

つまり、採点係を「人を呼ぶ側」に置く限り、最悪でも現状と同じで、平均は良くなる。91.7%でも成り立つのは、この置き方のときです。

危ないのは、逆の置き方。採点係の○だけで送信して、人を外す。しかも判断を何段もつなぐ。仮に一つ一つの判断が91.7%当たるとして、10段つなぐと全部当たる確率は「0.917の10乗」で約42%。半分以上で、どこかが間違っています。これは机上の計算で、実際の数字は御社の業務で測るまで分かりません。それでも、「段を増やすほど掛け算で下がる」という形は変わりません。

採点係の置き場所。左「人を呼ぶ側」:×なら人に回す、○でも人が一目見る。間違えても、人に回るか、今と同じ。最悪でも現状と同じで、平均は良くなる。右「人を外す側」:○だけで送信、人は見ない、判断を何段もつなぐ。一段91.7%なら、10段で約42%。「全自動」の宣伝は、こちら側のことが多い。

「AIで全自動」と聞いたら、採点係がどちらの側に置かれているかを見てください。人を呼ぶ側なら現実的で、人を外す側なら、驚き屋の記事で書いた「指数関数を現場に持ち込む」話です。


世の中も、同じ組み方を始めている

発表から2日後の9月17日、AIを組む部品を作っているLangChain社が、Jevを組み込む部品を2つ出しました。

一つは振り分け。質問が来たら、まず採点係が「安い文章AIで足りるか、高い文章AIが要るか」を判定する。簡単な質問に、高いほうを使わない。

もう一つはガードレール。文章AIが何かの操作(コマンドを実行する、など)をしようとしたら、実行の前に採点係が「危ないか」を判定して止める。

どちらも、採点係は書く係の前か、止める側にいます。書く係の代わりに書いてはいません。上で書いた「人を呼ぶ側」と、同じ置き方です。


第3回の壁は、どうなったか

第3回で「残った壁」を4つ挙げました。二人一組にすると、②「迷っている客に、何を出すか」の半分は動きます。説明や比較の言い方は、書く係がその場で作れる。第3回の冒頭の試作が、それです。ただし、何を言っていいか——値引きしていいのか、在庫を言っていいのか——は、御社が決めておくものです。そこは動きません。

①計測、③効果測定、④判断の質は、そのまま残ります。

そして、一つ増えます。⑤つなぐ人。 Jevは一問一答で、前の答えを覚えません(第2回)。「4問聞いて、書かせて、5問聞いて、人に回す」という流れは、Jevでも文章AIでもなく、プログラムが持ちます。設計する人が要る。驚き屋の記事で「現場は階段で上がる」と書きましたが、その階段を作る仕事です。


正直に書いておくと

私たちはまだ、この二人一組を、お客さんの業務で組んでいません。上の流れは、TypeSafe社が挙げている用途と、LangChain社の部品と、個人が3日で作った試作から組み立てた設計です。Jevは順番待ちですが、Cloudflareの上でも触れるので、小さく組んで数字が出たら、この記事に足します。


今回、覚えて帰っていただきたいこと

書く係と、採点係。Jevは文章AIの代わりではなく、横に置く採点係です。採点係を置くと、検査付きの自動化が、検査無しと同じ値段になる。 そして採点係は「人を呼ぶ側」に置く。「人を外す側」に置いた全自動は、まだ危ない。


連載のまとめ

  • 第1回:文章を書かないAIが出た。返事は○×・点数・どれか一つ。だから0.1秒で、ほぼ無料
  • 第2回:「間違えない」は「枠の外は出ない」の意味。人の代わりではなく、人の前の下読み
  • 第3回:7年前に中小企業を弾いた3つの壁は消えた。撤退させた4つの壁は残っている
  • 第4回:書く係と採点係を組むと、検査付きの自動化が検査無しと同じ値段になる。採点係は、人を呼ぶ側に置く

7年前、モデルが買えなかった。いま、モデルはほぼ無料になった。残っているのは、判断の基準を言葉にすること、データを整えること、そして、つなぐこと。どれも、御社の側の仕事です。


この連載の次に読むもの


出典・参考

Read next

他の記事

AI・DXの導入、どこから手をつけるか迷ったら

Acetyl:Techが、あなたの会社で「本当に使われる形」まで設計します。まずはお気軽にご相談ください。

無料で相談する