Что нужно сделать, чтобы компьютер смог чувствовать и мыслить?

Ну и про "бред" - это, конечно, зря. Если вы имели в виду ответ Samael Dark, то он, конечно, написан непрофессиональным языком, но бредом не является.

Мыслит ли он? Вот тут нельзя сказать, что да. В него вшит алгоритм работы, тупой алгоритм, если взять шахматы, к примеру. Просто компьютер может решать задачи в миллионы раз быстрее чем человек, поэтому и создается ощущение мышления.

В него вшит алгоритм работы, тупой алгоритм

Если вы ещё не читали про AlphaGo (обыграла чемпиона мира в го, в игре, которая является, вероятно, самой "непонятной" игрой с точки зрения программирования), предлагаю почитать.

создается ощущение мышления

Правильно, что создаётся. Потому что мышление на этом и основано. Мозг человека построен по тем же базовым принципам, что и мозг червя. Только у человеческого мозга вычислительная мощность в дохрениллиард раз больше. Итог: у червя мышления нет, а у человека - есть.

Я не могу себе представить чёткую границу, чтобы я сказал "вот здесь алгоритм ещё не умеет мыслить, а вот здесь - уже умеет". Чем сложнее алгоритм - тем больше он приобретает разумных черт. Граница размыта. Поисковый алгоритм Гугла разумен? Нет. Хотя он по своему очень хитёр. А Гугл-переводчик разумен? Нет. Но он способен до-обучаться и понимает многие нюансы выражений. А голосовой перевод с языка на язык - это признак разума? Нет? Всё ещё нет, но граница уже становится размытой. А когда алгоритм научится говорить самостоятельно? А когда он сможет формулировать какие-то идеи? Ведь с технической точки зрения, всё это возможно. В какой же момент возникнет разум?

Это явление известно как "переход количества в качество". При накоплении большого количества чего-то, возникает новое явление, которого не проявлялось раньше. Так, например, молекулы углерода, водорода, кальция, натрия и т. п. - это просто молекулы. Но если взять их очень много и дать им много времени - возникает жизнь.

Тут вопрос терминов. Рассудок (рассуждения -- если а то б) компьютеру безусловно доступен. Чувства -- рецепторы -- доступны.

В какой момент из этого родится компьютерное сознание -- пока неизвестно.

Не вызывает сомнений то, что рано или поздно будет существовать рассудок по мощности равный и превосходящий человеческий. По новостям я более менее в курсе.

Вопрос не в этом, вопрос в регистрации рождения самосознания.

Ну, грубо говоря, представьте себе что есть сомнения -- может быть я -- робот. Как вы проверите есть у меня самосознание или я просто робот, который научился поддерживать беседу.

Как вы проверите есть у меня самосознание или я просто робот, который научился поддерживать беседу <

А никак. И я не понимаю, зачем это проверять. Почему-то многим это очень важно, и это странно. Если я встречу робота, который способен будет в ходе беседы убедить меня, что у него есть разум и самосознание - значит я буду считать, что у него есть разум и самосознание. Потому что считать так - это самое простое и логичное. А иначе мне придётся всех людей подозревать (включая знакомых, друзей и жену). Вдруг у них тоже самосознания нет? А вдруг это моё сознание заставляет всех их что-то делать и как-то отвечать? Вдруг они исчезают каждый раз, когда я отворачиваюсь (и появляются, когда я снова поворачиваюсь)? Можно много вопросов придумать. Но проще (и, наверное, правильнее) просто согласиться. "Если что-то выглядит как утка и крякает как утка..."

Если я встречу робота, который способен будет в ходе беседы убедить меня, что у него есть разум и самосознание - значит я буду считать, что у него есть разум и самосознание.

Так я согласен )

Только пытаюсь для себя сформулировать -- как мы в этом убеждаем себя в ходе беседы.

Понимаете, когда мы говорим "в жене то ты не сомневаешься", это опасный путь. 

Во-первых, мы не сомневаемся просто по привычке. Когда мы себе способны задать такой вопрос, мы прожили в обществе уже лет 20. За это время мы привыкли, приучились считать всех такими же как мы. Привычка -- не аргумент, когда мы хотим точности, хотим разобраться. По привычке люди воду от телевизоров заряжают и тому подобное -- людям это тоже кажется самоочевидным и не требующим проверки.

А во-вторых, страничка вики:

Китайская комната

Если бы всё было так просто -- выглядит-считай, наверное, не было бы так:

Этот философский аргумент до сих пор является одним из самых обсуждаемых в области когнитивистики. Некоторые исследователи даже определяют когнитивистику как «исследовательский проект по опровержению аргумента Сёрла». Только с 2010 по 2014 год было выпущено более 750 статей в научных журналах, где обсуждается мысленный эксперимент Сёрла[1].

Вот я и не пойму, почему это так обсуждается. Последовательной аргументации я никогда не видел (включая и статью в Вики про китайскую комнату; более того, я уверен, что мозг точно так же переносит бумажки, как в этой китайской комнате). Если в людях мы не сомневаемся просто по привычке (традиция такая), то значит это просто вопрос традиции? Пройдёт 100 лет после появления искусственного разума - и никто не будет сомневаться в его самосознании. И тогда мы сможем объявить, что самосознание у него есть. А если общество решит, что самосознания нет - мы объявим, что его нет. Так получается? Странная затея.

И я уверен, что мозг так и переносит бумажки. А в чём нам быть ещё уверенными, если больше никаких данных нет? )

Пока, да, традиция. Люди чувствуют, что самосознание существует, применяют этот термин.

Но в естественных науках, если мы вводим термин, мы обязаны уметь задавать вопросы позволяющие отличать А (новый термин) от не А. Позволяющие однозначно опознать это А. Иначе какой смысл в новом термине?

Вот вещество в состоянии жидкости, а вот в твердом состоянии. Мы отличаем одно от другого. Можем объяснить.