По настоящему, "в общем случае", мы в этом не разобрались. Но... подходы к вопросу - имеются.
Самое старое из пока не вполне "ниспровергнутого" - тест Тьюринга. Классическая формулировка родилась задолго до социальных сетей. В них-то, его - вот-вот ниспровергнут-таки современные боты. Настолько упрощено поведение в них... большинства. Но в околонаучной среде, среди начитанной публики - работает. И гуманоидное сознание тут определяется нашей неспособностью отличить его от таких же, как мы - в беседе.
Более "жёсткое" определение полноценного ИИ (легко обобщается на любое сознание) - способность научиться всему, чему может научиться человек. И умение самому ставить себе задачи. Проблема в том, что под это определение подходят далеко не все люди.
Поведение большинства на самом деле очень простое, а людей обладающих сознанием не так уж много.
Пожалуй. Но вы мне старый рассказ Станислава Лема из цикла про киберизобретателей напомнили. Про модель цивилизации для тирана... Эрмизиния, Эрмизидия? Подход чёрного ящика. Мол, если бот ведёт себя, как разумный, то он - разумный. Помнится, из не задумывающегося над этим тирана - не плохой искусственный спутник вышел. Хоть с виду - овощи, как овощи были.
РФ сейчас - много чего хорошо иллюстрирует. Слишком хорошо. С Чипполино и Джельсамино начиная. Как писал Макс Фрай больше 20 лет назад, Рулен Богдасыс - сплошная живая шутка. Грубая, но на вкус арварохцев - пожалуй, сойдёт...
Там же и х...генерал Дома у Моста (см. Питер) Бубута наш Бох (а бо...хи - они на своих Ладах-Калинах - непогрешимы, ошибок - не совершают) со своей коллекцией сортиров и пу-центричным юмором описывался...
Сознание это когда возможно без какой-либо команды снаружи или программы изнутри поставить себе задачу и выполнить ее, т.е действовать по собственной инициативе. Хотя, далеко не все люди обладают такими возможностями, но полноценный ИИ должен явно превосходить разум среднего человека - лишь тогда это будет сознание.