ChatGPTに経理を任せてはいけない理由

問題1：自社の事実を知らない

税務の判断は、ほとんどが「事実がどうか」で決まります。AIはその事実を知りません。

これらを伝えずに聞けば、AIは一般論を答えます。そして一般論は、自社に当てはまるとは限りません。

問題2：もっともらしく間違える

AIは分からないときも「分かりません」とは言わず、それらしい回答を生成することがあります。存在しない条文番号、実際とは違う金額基準、廃止された制度——これらが自然な文章で提示されます。

問題3：制度改正に追いつけていないことがある

税制は毎年変わります。AIの学習データがいつ時点のものかによって、古い制度で回答することがあります。インボイス制度、電子帳簿保存法、各種の特例——近年の改正が多い領域ほど、古い情報が返るリスクが高くなります。

問題4：会計データを入力すると情報が外に出る

取引先名、金額、従業員の給与——これらを入力すると、サービス提供者のサーバーに送信されます。設定によっては学習に使われる可能性もあります。

• 顧客情報 — 取引先との守秘義務に触れる可能性
• 従業員の給与 — 個人情報。安全管理措置が必要
• 未公表の財務情報 — 資金繰り、赤字、借入の状況

詳しくは会計データをAIに渡すときのセキュリティにまとめています。

それでも使える場面

使ってはいけないわけではありません。用途を限れば有用です。

会計ソフトのAIとは別物です

freeeやマネーフォワードに組み込まれたAI機能は、汎用のチャットAIとは違います。

会計ソフトのAI機能は業務に組み込んで使えます。ただし提案された仕訳が正しいかの確認は必要です（AI記帳はどこまで自動化できるのか）。

安全な使い方の原則

1. 実データを入れない — 取引先名・金額・氏名を伏せて、一般化した質問にする
2. 回答を一次情報で確認する — 国税庁のサイト、条文、通達
3. 判断は人が下す — AIの回答は「調べる手がかり」として扱う
4. 迷ったら税理士に聞く — 個別の判断は税務相談にあたり、そもそもAIが答えられる領域ではありません

そもそも何が税理士でなければできないかは無資格者ができる経理業務・できない業務にまとめています。AIも「無資格者」と同じ制約の中にあると考えると、線引きが分かりやすくなります。