以前、「ChatGPTは、あくまでもOpenAIによってトレーニングされた大規模言語モデルで、自然言語へ対応できるように学習されただけであり、思考する機構を取り入れたシステムではない。」と投稿しましたが、間違っていたようです。

言語モデルのサイズを大規模化すると「べき乗則」に従ってタスク処理能力が向上することに加え、ある大きさを超えると「創発」と呼ばれる以下の現象が生じるとのことです。

　○論理思考を必要とする問題を解くこと

　○プロンプトによって学習内容と異なる新しい情報を受け入れること

　○抽象的な概念を扱えるようになること

これらが実現しているということは、大規模言語モデルは「思考」していると考える方が自然のように思えてきました。