Отличаются алгоритмами ранжирования сайтов в поиске, базой проиндексированных сайтов. То есть примерно всем, что важно для поисковиков.
Покрытие русскоязычного сектора интернета у Яндекса всё ещё как минимум не хуже, местами - сильно лучше Гугла.
Общая рекомендация: поиск по не-русскоязычным ресурсам точно в среднем полезнее проводить в Гугле. Если первые пара страниц выдачи не радуют - есть смысл зайти в Яндекс, потому что иногда он вполне себе полезен.
По русскоязычным - в том поисковике, который больше нравится, и точно есть резон попользоваться Яндексом, если не нашли нужное гуглом.