前回と同じ用例ベース方式の非タスク指向型対話システムですが、深層学習を利用した発話選択に挑戦しました。深層学習のライブラリPyTorchを用いた学習には現実的な学習時間にするためのマシンスペックが必要なので、Google Colaborayoryの無料環境を使いました。PyTorchでtransformersを使用してファイインチューニングを行い、ファイインチューニング済みのBERTで応答を評価し発話を選択するシステムです。残念ながら、Telegram上で対話をスタートしても、応答が返ってこない状況がどうしても改善できませんでした。
対話破綻検出についても、BERTを用いてチャレンジしてみましたが、Telegram上で対話はスタートするものの、メッセージを入力するとエラーが発生してしまい対話が成立しない状況にとどまりました。