双方向のケアは、AIがまだうまく解決できない問題である
AI業界がデモで見せるものと、父親が800キロ離れた場所で老いていく家族や、完全に一人では生活できない自閉症の成人した子を持つ家族が実際に必要としているものの間には、巨大な亀裂が存在する。その亀裂は技術的なものではない。診断の問題なのだ。
AIとロボティクスの専門家がフォーブス誌に父の日にちなんだコラムを掲載した。さっと読めば個人的な振り返りのように見えるが、注意深く読むと市場への告発文である。中心的な論点はこうだ：6,300万人のアメリカ人が何らかのケアの役割を担っており、これは成人のほぼ4人に1人にあたる。AARPの試算によれば、彼らが提供する無償労働の価値は年間1兆ドルを超える。それにもかかわらず、家庭向けAI開発の大部分は依然として別の顧客を向いている。
ケア市場は存在する。巨大であり、十分にサービスが行き届いておらず、感情的な支払い意欲は非常に高い。欠けているのはAIへの投資ではない。欠けているのは、解決しようとしている問題に対する精度なのだ。
ロボットは洋服をたたむ。家族が必要としているのは別のことだ
家庭におけるAIの典型的なイメージは、実験室のビデオの中で家事をこなすヒューマノイドロボットだ。そうしたプロトタイプは注目を集め、メディア報道を獲得し、バリュエーションを正当化する。そして、ほぼ誰も緊急で依頼しているわけではない問題を解決する。
遠距離介護者が必要としているのはロボットではない。夜の11時に、母親が薬を飲んだかどうか、あるいはキッチンで動きがないのが警戒すべきサインなのか、単に寝室でテレビを見ることにしただけなのかを知ることだ。電話が床に落ちただけなのか、転倒なのかを区別するアラートが必要だ。リアルタイムカメラで監視するのではなく——高齢者は自分の寝室にカメラを置くことを決して受け入れないだろう——ルーティンを学習するシステムが必要なのだ。
これは技術的な野心の欠如ではない。むしろまったく逆だ：これは洋服をたたむよりもはるかに難しい問題を解決しようとする野心である。倉庫のロボットは予測可能な表面と標準化されたオブジェクトを扱う。83歳の人物の行動をモデル化し、プライバシーを侵害することなく異常を検知するパッシブセンサーは、現在のシステムがひどく苦手とするレベルの文脈的推論とエラー許容度を必要とする。
市場はその欠如によってそれを証明している。育児休暇の許可ナビゲーション用のAIツールがある。介護者の労働給付を調整するためのチャットボットがある。リマインダーアプリがある。しかし根本的な問題——自宅を病院にせずに、誰かを安全かつ自立した状態に保つこと——は依然として、供給が需要に追いついていない空間のままだ。
ビジネス上の問題は、技術がこれを解決できるかどうかではない。できる。問題は、なぜ規模において実現できていないのかであり、その答えはエンジニアリングの限界よりも資本のインセンティブと深く関わっている。
なぜケア市場はテクノロジーではなく金融設計の問題なのか
なぜ特定の市場セグメントが、明らかな需要があるにもかかわらず何年も十分にサービスされないままでいるのかを分析すると、パターンは通常同じだ：問題を抱えているのは、お金を持っている人ではないか、購買サイクルが非常に感情的で複雑であるため、顧客が自分のニーズをうまく言語化できない。
家族のケアは両方の条件を満たしている。介護者が支払うが、ユーザーは別の人物であり、そのため導入プロセスが断片化し、成功基準が倍増する。家族は安全を求める。高齢者は独立を求め、監視されていると感じたくない。医師は臨床データを求める。保険会社は入院率の減少を求める。この4者は完全に同じ利益を持っているわけではなく、一方にうまく機能するツールは他方には脅威として認識されることがある。
これが、この分野のほとんどの製品が問題の一角しか扱わない理由だ。緊急医療警報デバイスは緊急事態は解決するが日常の摩擦は解決しない。セキュリティカメラは可視性は確保するが尊厳を損なう。家族調整アプリはロジスティクスは解決するが、夜中の3時に電話の沈黙が良いサインなのか悪いサインなのかと思い悩んで目を覚ます介護者の感情的負担は解決しない。
欠けている製品は、それらすべてのニーズの境界線上で同時に機能するものであり、侵害しないほど十分にパッシブで、関連するシグナルをノイズから区別するほど十分にインテリジェントで、地理的に分散した家族の複数のメンバー間で注意の負担を分配するほど十分に調整されたものだ。それは製品アーキテクチャとビジネスモデルの金融設計の問題であり、計算能力の問題ではない。
それをうまく解決した企業は技術を売るのではない。証拠を伴う安心感を売るのだ。そしてそれは、何百万人もの人々が価格をあまり交渉せずに毎月支払うであろう製品であり、そのセグメントをサブスクリプションの機会として——非常に高い定着率と低い解約率を持つものとして——際立たせる。なぜなら、プロバイダーを変えることは、ケアしている人物のルーティンを一から学び直すことを意味するからだ。
尊厳は意図の宣言ではなく、技術的変数である
記事の中に、レトリックとしてではなく製品仕様として扱われるべき一文がある：「監視されていると感じるのではなく、見守られていると感じること」。この区別は意味論的なものではない。それは、人物についてデータを生成するシステムと、その人が自分の空間に対するコントロールを失ったと感じることなく家族に安心感をもたらすシステムの違いだ。
その違いを生み出す技術的アーキテクチャは存在する。人物を特定せずにパターンを学習するパッシブモーションセンサー。人口規範ではなく個人の過去の行動と比較して異常を分析するシステム。重要なシグナルを失うことなく誤検知を減らす調整可能な閾値を持つアラート。情報を統合し、確認すべき別の画面を追加しない遠距離介護者向けのインターフェース。
まだ存在しないのは——少なくとも大規模な商業展開と大衆採用という意味では——それらのすべてのピースを、真の信頼を生み出すのに十分な精度で組み合わせた製品だ。なぜなら、ケアにおける誤検知の問題は単なるUXの問題ではなく、遵守の問題だからだ。週に3回の誤アラームを生成するシステムは、介護者がそれを無視するよう訓練し、ツールをテクノロジー的なプラセボに変えてしまう。
これがまさに、感情的なエラーコストが高いセグメントにおいて採用を破壊する摩擦の種類だ。システムが平均的にうまく機能するだけでは不十分だ。監視対象の特定の人物に対して特定的にうまく機能しなければならない。そのためには、現在のほとんどの製品が十分な深さで設計していない学習、調整、フィードバックの期間が必要だ。
業界が通常無視するもう一つの要素がある。それは投資家へのピッチに登場しないからだ：高齢者のオンボーディングだ。最も洗練されたテクノロジーでも、家に住んでいる人がそれを望まなければ失敗する。尊厳はソフトな変数ではない。それは使用の条件だ。そして、それのために設計することは、最初の瞬間からケアされる人を巻き込み、何が監視され何がされないかについてのコントロールを与え、システムのカバレッジを拡大する前に段階的に信頼を構築することを必要とする。
ケアはAIが傾聴を学んだかどうかを証明する次の空間だ
採用の観点からこのセグメントを興味深くしているのは、その規模ではない——巨大ではあるが。それは、エラーが実際の結果をもたらし、技術的な眩惑に対する許容度がゼロである条件下でAIの成熟度を測定するということだ。
消費者は、バーチャルアシスタントが自分のアクセントを理解しなかったり、製品推薦が失敗したりすることを許すことができる。介護者は、システムが猫が原因の転倒アラートを生成することも、父親が3時間動いていないのに何のアラートも生成しないことも許すことができない。許容可能なエラーのマージンははるかに狭く、そのことがケアを消費者向けAIのほぼあらゆる他の用途よりも厳しいテストベッドに変える。
そのマージンの中でうまく運用できた企業は、単に市場の問題を解決したのではない。彼らは、精度がローンチ速度よりも重要であり、最終ユーザーがベータテスターになる時間も気持ちもない文脈において、AIシステムを調整する能力を証明したことになる。
それがAIをデモとしてではなく、ケアのインフラとして分けるスタンダードだ。そして現時点では、その二つの間の距離は、各種アナウンスメントが示唆するよりもはるかに大きいままだ。
