Выдаёт усреднённую информацию из дата-сета. Дата-сет ЧатаГПТ - колоссальный сборник текстов на разных языках, взятых из самых разных уголков интернета. В среднем, ответы нейронки верны, пусть и не особо обстоятельны. Но всё равно, не надо верить всему, что пишут в интернете (что и ретранслирует нейронка).
В лично моей работе лучше всего ЧатГПТ показал себя как переводчик. Ему можно доверять больше, чем гугл- и яндекс- переводу. Особенно в том, что касается сохранения стиля. Говорят, ГПТ4 переводит лучше, чем профессионалы - но в компании, где я работаю, заказывали перевод на аутсорс у какой-то очень крутой компании - и их перевод мне нравится больше.
Я жду, когда кто-нибудь сможет создать похожего бота, но умеющего в саморефлексию. В частности, сможет разделять свои тезисы по степени отсебятины (где прямое цитирование, а где результат большого цикла преобразований), и вспомнить, из каких источников он их взял.