Как рассчитать координаты "сектора" и радиус круга?

 По поводу первой задачи:

    function calculateDistance(latA, longA, latB, longB){
        var EARTH_RADIUS = 6372795;

        var lat1 = latA * Math.PI / 180;
        var lat2 = latB * Math.PI / 180;
        var long1 = longA * Math.PI / 180;
        var long2 = longB * Math.PI / 180;

        var cl1 = Math.cos(lat1);
        var cl2 = Math.cos(lat2);
        var sl1 = Math.sin(lat1);
        var sl2 = Math.sin(lat2);
        var delta = long2 - long1;
        var cdelta = Math.cos(delta);
        var sdelta = Math.sin(delta);

        var y = Math.sqrt(Math.pow(cl2 * sdelta, 2) + Math.pow(cl1 * sl2 - sl1 * cl2 * cdelta, 2));
        var x = sl1 * sl2 + cl1 * cl2 * cdelta;

        var ad = Math.atan2(y, x);
        var dist = Math.ceil(ad * EARTH_RADIUS);

        return dist;
    }

Но есть какая-то встроенная в апи функция, поищите, если хотите.

По поводу второй задачи:

1. расчитываете азимут между двумя точками линии(Обратная геодезическая задача)

2. далее отталкивайтесь от этого азимута и стройте две линии плюс минус 22.5 градуса заданной длинны. (Прямая геодезическая задача).

Получите эти две линии - объеденяйте в полигон и в принципе готово. Если вам не срочно нужно выполнить это, то я бы на выходных помог - люблю решать интересные задачи)

Чтобы расчитать расстояние между двумя геокоординатами вообще есть метод

ymaps.coordSystem.geo.getDistance(a, b)

Что касается вопроса номер два. Нужен ли вам именно геодезический сектор? Может быть можно будет обойтись простым равносторонним треугольником, тогда все просто, можно обойтись глобальными пикселями и школьной геометрией.

Тем не менее, я приведу пример геодезического треугольника:

var point1 = [37.62, 55.75],
    middlePoint = [30, 60],
    sectorAngle = Math.PI / 4,
    // Решаем обратную задачу мужду двумя точками.    
    geodesic = ymaps.coordSystem.geo.solveInverseProblem(point1, middlePoint),
    // Находим угол в радианах.
    azimuth = Math.atan2.apply(null, geodesic.startDirection),
    // Находим азимуты сторон треугольника.
    azimuth2 = azimuth - sectorAngle / 2,
    azimuth3 = azimuth + sectorAngle / 2,
    // Находим направления для сторон треугольника.
    dir2 = [Math.sin(azimuth2), Math.cos(azimuth2)],
    dir3 = [Math.sin(azimuth3), Math.cos(azimuth3)],
    // Находим длину гипотенузы в метрах.
    hypotenuseLength = geodesic.distance / Math.cos(sectorAngle / 2),
    // Находим координаты точек треугольника.
    point2 = ymaps.coordSystem.geo.solveDirectProblem(point1, dir2, hypotenuseLength).endPoint,
    point3 = ymaps.coordSystem.geo.solveDirectProblem(point1, dir3, hypotenuseLength).endPoint,
    // Создаем объект, не забываем указать ему опцию geodesic: true.
    triangle = new ymaps.Polygon([[point1, point2, point3]], {}, { geodesic: true });
    
myMap.geoObjects.add(triangle);