Tất cả thử thách
Dễ 0 đã giải Tỷ lệ chấp nhận 0%

Categorical Cross-Entropy Loss

Measure the loss of a multi-class classifier from its predicted probabilities and the true classes.

Bạn sẽ học được gì

  • Score predicted probabilities against true classes
  • Average the loss over samples
  • Avoid log(0) with clipping

Đề bài

Xem bản dịch

A multi-class classifier outputs one probability per class (for example from softmax). Categorical cross-entropy punishes it for giving the correct class a low probability:

loss = -(ln(p₁) + ln(p₂) + … + ln(pₙ)) / n

where pᵢ is the probability the model gave to the correct class of sample i. To avoid ln(0), first raise any probability below 0.0000001 to 0.0000001.

Implement categorical_cross_entropy(probabilities, labels).

Input

probabilities: One row per sample, with one probability per class.

labels: The index of the correct class for each sample (0-based).

Output

Return the average loss as a decimal number.

Ràng buộc

1 ≤ samples ≤ 1,000, 2 ≤ classes ≤ 100

0 ≤ each probability ≤ 1

0 ≤ labels[i] < number of classes

Ví dụ

Ví dụ 1
Đầu vào:
probabilities = [
    [0.7, 0.2, 0.1],
    [0.1, 0.8, 0.1]
]
labels = [0, 1]

Kết quả mong đợi:
expected = 0.289909
Đầu vào:
std::vector<std::vector<double>> probabilities = {
    {0.7, 0.2, 0.1},
    {0.1, 0.8, 0.1}
};
std::vector<long long> labels = {0, 1};

Kết quả mong đợi:
double expected = 0.289909;
Đầu vào:
double[][] probabilities = new double[][] {
    new double[] {0.7, 0.2, 0.1},
    new double[] {0.1, 0.8, 0.1}
};
long[] labels = new long[] {0, 1};

Kết quả mong đợi:
double expected = 0.289909;

Giải thích

The correct classes got 0.7 and 0.8: -(ln(0.7) + ln(0.8)) / 2 = -(-0.356675 - 0.223144) / 2 ≈ 0.289909.

Ví dụ 2
Đầu vào:
probabilities = [
    [1.0, 0.0]
]
labels = [1]

Kết quả mong đợi:
expected = 16.118096
Đầu vào:
std::vector<std::vector<double>> probabilities = {
    {1.0, 0.0}
};
std::vector<long long> labels = {1};

Kết quả mong đợi:
double expected = 16.118096;
Đầu vào:
double[][] probabilities = new double[][] {
    new double[] {1.0, 0.0}
};
long[] labels = new long[] {1};

Kết quả mong đợi:
double expected = 16.118096;

Giải thích

The correct class got probability 0, which is raised to 0.0000001, so the loss is -ln(0.0000001) ≈ 16.118096: a confident wrong answer is punished hard.

Hướng tiếp cận

Hãy tự thử trước, sau đó mở từng gợi ý một.

Gợi ý 1

Look up the probability assigned to each sample’s correct class, then average the negative logs of those values.

Gợi ý 2

Clamp very small probabilities upward before taking logs to avoid undefined results.

Gợi ý 3

Only the labeled class matters for each row, so ignore the other class probabilities when computing the loss.

Độ phức tạp mong đợi

O(samples) time, O(1) extra space

Tham khảo

Thử thách này đã được điều chỉnh cho CodeUtility. Hãy làm theo đề bài và các ràng buộc ở trên.

Lời giải đạt tốt nhất của mỗi người. Lời giải nhanh hơn, tốn ít bộ nhớ hơn và được đánh giá cao hơn sẽ đứng trên.

Chưa có lời giải nào đạt. Giải bài này để giành hạng nhất.

Học hỏi từ người khác

Giải pháp cộng đồng

Chưa có giải pháp nào được chia sẻ. Hãy giải thử thách này để đăng giải pháp đầu tiên.