Определение объектов на видимой части карты

Не советую делаю это через DOM интерфейсы.

Запросите CoordPoint плейсмарков и проверьте их на вхождение в viewport

вам правильно подсказал.

С помощью метода карты getBounds() вы можете получить границы видимой области карты. Если все оверлеи у вас находятся в группе, то можно отфильтровать нужные объекты следующим образом:

    // Карта
var map = new YMaps.Map(document.getElementById("YMapsID")),
   
    // Группа объектов
    group = new YMaps.GeoObjectCollection();

// Отбираем объекты, которые попали в видимую область карты
var filter = group.filter(function (obj) {
    return map.getBounds().contains(obj.getGeoPoint());
});