ЕМНИП такой функции нет.
Если очень высокая точность не нужна, то можно сделать так:
1) Сделать выделение по одному из цветов.
2) Закрасить выделение белым цветом.
3) Закрасить то что не выделено (Ctrl+Shift+I) черным цветом.
4) Уменьшить размер изображения до 1 на 1 пиксель.
5) Посмотреть какая яркость получилась L, это и будет величина пропорциональная относительной площади выбранного цвета.
Дальше width * height * L / 255 - площадь цвета.