昨年6月にOpenAIのAPIにFunction callingという機能が追加されていました。この機能は、大規模言語モデル(LLM)が、ユーザの入力に応じて必要な関数を判断し、その関数の入力形式に従ったデータ(JSONなど)を回答するものです。この機能によって、プログラム開発者はLLMからの出力データを用い、ある程度確実性を保って外部ツール等と連携できるようです。これまでは、LLMからのデータが壊れて出力され、外部との連携が失敗するケースがあったようです。
Function callingの機能を簡単に表現すると、予め利用可能な関数をLLMに伝えておき、LLMに関数を使いたいという判断をさせるものです。ポイントは、LLMが関数を実行するのではなく、LLMは関数を使いたいという応答を返すだけということです。
現在、OpenAI APIでは、Function callingという機能名は非推奨となり、代わりにTool Callという機能名に置き換えられています。変化が激しいですね。