На ваш взгляд, что более важно при разработке модели машинного обучения: производительность модели или её точность?

Это все зависит от текущей задачи решаемой при создании модели нейронной сети. Если понимать под "производительностью модели" время ее обучения, то оно не критично до начала использования модели. Арендуя ресурсы можно быстро обучить и очень сложную модель. А чем больше данных мы подадим на обучение, тем лучше будет точность модели.

Единственная задача, когда может быть критично время обучения, это задачи, которые требуют постоянного до обучения. Например, у нас есть обученная модель для торговли на бирже и работает она на коротком тайм-фрейме. Для увеличения ее точности мы хотим регулярно до обучать модель на новых данных. Если это Мосбиржа, то до обучать можно ночью, когда торги не проходят. Вот тут вопрос, хватит ли этого времени для до обучения. Или придется жертвовать точностью модели.