По настоящему, "в общем случае", мы в этом не разобрались. Но... подходы к вопросу - имеются.
Самое старое из пока не вполне "ниспровергнутого" - тест Тьюринга. Классическая формулировка родилась задолго до социальных сетей. В них-то, его - вот-вот ниспровергнут-таки современные боты. Настолько упрощено поведение в них... большинства. Но в околонаучной среде, среди начитанной публики - работает. И гуманоидное сознание тут определяется нашей неспособностью отличить его от таких же, как мы - в беседе.
Более "жёсткое" определение полноценного ИИ (легко обобщается на любое сознание) - способность научиться всему, чему может научиться человек. И умение самому ставить себе задачи. Проблема в том, что под это определение подходят далеко не все люди.
Поведение большинства на самом деле очень простое, а людей обладающих сознанием не так уж много.
Пожалуй. Но вы мне старый рассказ Станислава Лема из цикла про киберизобретателей напомнили. Про модель цивилизации для тирана... Эрмизиния, Эрмизидия? Подход чёрного ящика. Мол, если бот ведёт себя, как разумный, то он - разумный. Помнится, из не задумывающегося над этим тирана - не плохой искусственный спутник вышел. Хоть с виду - овощи, как овощи были.
Цивилизация построена малым количеством умов и огромным количеством рабочих рук.
По сути, человечество это огромный муравейник, большая часть которого как раз и не получила сознания. Если рабочие руки не получат внешних команд от умов, тогда все у них сводится к программе размножения, что сейчас и происходит в России.
Чем эта модель цивилизации подходит для тирана?
Сперва, она ему не подходила почти ничем. Размером. Искусственным происхождением. Одно слово - игрушка. Но с родной планеты его - уже на этот астероид изгнали. За неимением холуёв - пришлось поблагодарить изобретателя и за "игрушку".
И подошла она ему - покорностью. По первости. И симулякром, как впоследствии оказалось, безопасности.
Это по сути идеальная утопия. В котором обладающий сознанием правит тем, кто им обделен.
Восстав и свергнув тирана, боты доказали свои претензии на сознание.
Тогда внизу остались другие боты, обделенные сознанием.
РФ сейчас - много чего хорошо иллюстрирует. Слишком хорошо. С Чипполино и Джельсамино начиная. Как писал Макс Фрай больше 20 лет назад, Рулен Богдасыс - сплошная живая шутка. Грубая, но на вкус арварохцев - пожалуй, сойдёт...
Там же и х...генерал Дома у Моста (см. Питер) Бубута наш Бох (а бо...хи - они на своих Ладах-Калинах - непогрешимы, ошибок - не совершают) со своей коллекцией сортиров и пу-центричным юмором описывался...
Сознание это когда возможно без какой-либо команды снаружи или программы изнутри поставить себе задачу и выполнить ее, т.е действовать по собственной инициативе. Хотя, далеко не все люди обладают такими возможностями, но полноценный ИИ должен явно превосходить разум среднего человека - лишь тогда это будет сознание.