ChatGPTの「与えられた次の言葉を確率的に予測して生成する」という性質はそのままありますので、想定されていない問いがきた場合に、結果的に間違った答えを返答する可能性はあります。 そのあたりはWEBサイトに注意書きをして置く必要があります。他社ではたまに間違うことをキャラクターのひとつにする例もあります。