Đề bài
A multi-class classifier outputs one probability per class (for example from softmax). Categorical cross-entropy punishes it for giving the correct class a low probability:
loss = -(ln(p₁) + ln(p₂) + … + ln(pₙ)) / n
where pᵢ is the probability the model gave to the correct class of sample i. To avoid ln(0), first raise any probability below 0.0000001 to 0.0000001.
Implement categorical_cross_entropy(probabilities, labels).
Input
probabilities: One row per sample, with one probability per class.
labels: The index of the correct class for each sample (0-based).
Output
Return the average loss as a decimal number.
Ràng buộc
1 ≤ samples ≤ 1,000, 2 ≤ classes ≤ 100
0 ≤ each probability ≤ 1
0 ≤ labels[i] < number of classes
Ví dụ
Đầu vào:
probabilities = [
[0.7, 0.2, 0.1],
[0.1, 0.8, 0.1]
]
labels = [0, 1]
Kết quả mong đợi:
expected = 0.289909
Đầu vào:
std::vector<std::vector<double>> probabilities = {
{0.7, 0.2, 0.1},
{0.1, 0.8, 0.1}
};
std::vector<long long> labels = {0, 1};
Kết quả mong đợi:
double expected = 0.289909;
Đầu vào:
double[][] probabilities = new double[][] {
new double[] {0.7, 0.2, 0.1},
new double[] {0.1, 0.8, 0.1}
};
long[] labels = new long[] {0, 1};
Kết quả mong đợi:
double expected = 0.289909;
Giải thích
The correct classes got 0.7 and 0.8: -(ln(0.7) + ln(0.8)) / 2 = -(-0.356675 - 0.223144) / 2 ≈ 0.289909.
Đầu vào:
probabilities = [
[1.0, 0.0]
]
labels = [1]
Kết quả mong đợi:
expected = 16.118096
Đầu vào:
std::vector<std::vector<double>> probabilities = {
{1.0, 0.0}
};
std::vector<long long> labels = {1};
Kết quả mong đợi:
double expected = 16.118096;
Đầu vào:
double[][] probabilities = new double[][] {
new double[] {1.0, 0.0}
};
long[] labels = new long[] {1};
Kết quả mong đợi:
double expected = 16.118096;
Giải thích
The correct class got probability 0, which is raised to 0.0000001, so the loss is -ln(0.0000001) ≈ 16.118096: a confident wrong answer is punished hard.
Hướng tiếp cận
Hãy tự thử trước, sau đó mở từng gợi ý một.
Gợi ý 1
Look up the probability assigned to each sample’s correct class, then average the negative logs of those values.
Gợi ý 2
Clamp very small probabilities upward before taking logs to avoid undefined results.
Gợi ý 3
Only the labeled class matters for each row, so ignore the other class probabilities when computing the loss.
Độ phức tạp mong đợi
O(samples) time, O(1) extra space
Tham khảo
Thử thách này đã được điều chỉnh cho CodeUtility. Hãy làm theo đề bài và các ràng buộc ở trên.