音声入力・自動SOAP生成など、医療AIは急速に現場に導入されています。
しかし、AIと医師の判断の境界は曖昧になりがちです。
その曖昧さは、責任の所在を不明確にします。
AIと人間の判断の境界を設計し、
「AIが判断していない状態を説明できる構造」を提供します。
AIがどこまで
関与したか
分からない
医師がどこから
判断したか
曖昧
判断主体が
記録に
残らない
AIと人間の判断境界が曖昧なまま運用を続けた場合、
現場・組織・取引関係それぞれに具体的なリスクが発生します。
AIがどこまで関与し、医師がどこから判断したかが記録に残らないため、事故が発生した際に判断プロセスを再現・説明することが困難になります。
AIの関与が説明できない構造では、最終的な責任は判断を下した医師個人に集中します。AI導入のメリットが、現場の負担増として跳ね返ります。
AIプロダクトを提供する側と運用する側の責任範囲が技術的に区別されていないと、契約上の責任分界が事実上機能しなくなります。
AIの挙動が必ずしも毎回正確であるとは限らない、という前提に立った設計です。
医療現場に深く根付いている設計思想です。「人はミスをする」という前提に立ち、ミスが起きても事故にはつながらない構造を、あらかじめ仕組みとして組み込む考え方を指します。医師・歯科医師・看護師・薬剤師は、日々の診療のあらゆる場面で、無意識のうちにこの思想を実践しています。 Examples 患者誤認を防ぐためのフルネーム照合 ／ 処置部位の左右・部位確認 ／ 薬剤量のダブルチェック ／ 投薬時の三度確認 ／ カルテ記載の二重確認
NODO studio は、この医療人にとって当たり前の発想を、医療AIの設計にそのまま適用しました。AIの出力が常に正確であることを期待する設計ではなく、AIが間違えても、それが事故につながらない構造を、設計レベルで担保します。
NODO studioは、AIと人間の役割分離を前提とし、その過程を後から説明可能な形で保持する構造を設計します。
技術を導入することではなく、判断主体の境界を保つことが、医療AIにおける本質的な安全要件です。
形式が異なっても、問題は共通です。
AIが判断に入り込む構造がリスクになります。
※ 具体設計は個別提供となります