SigmoidCrossEntropyWithLogits

logits متقاطع سیگموئیدی را محاسبه می کند.

خطای احتمال را در وظایف طبقه بندی گسسته که در آن هر کلاس مستقل است و متقابلاً منحصر به فرد نیست، اندازه گیری می کند. به عنوان مثال، می‌توان طبقه‌بندی چند برچسبی را انجام داد که در آن یک تصویر می‌تواند هم‌زمان شامل یک فیل و هم یک سگ باشد.

برای اختصار، اجازه دهید x = logits ، z = labels . ضرر لجستیک در شبه کد است

 z * -log(sigmoid(x)) + (1 - z) * -log(1 - sigmoid(x))
  = z * -log(1 / (1 + exp(-x))) + (1 - z) * -log(exp(-x) / (1 + exp(-x)))
  = z * log(1 + exp(-x)) + (1 - z) * (-log(exp(-x)) + log(1 + exp(-x)))
  = z * log(1 + exp(-x)) + (1 - z) * (x + log(1 + exp(-x))
  = (1 - z) * x + log(1 + exp(-x))
  = x - x * z + log(1 + exp(-x))
 

برای x < 0 ، برای جلوگیری از سرریز در exp(-x) ، موارد بالا را دوباره فرموله می کنیم

 x - x * z + log(1 + exp(-x))
  = log(exp(x)) - x * z + log(1 + exp(-x))
  = - x * z + log(1 + exp(x))
 

از این رو، برای اطمینان از ثبات و جلوگیری از سرریز، پیاده سازی از این فرمول معادل استفاده می کند

   max(x, 0) - x * z + log(1 + exp(-abs(x)))
 

لاجیت ها و labels باید نوع و شکل یکسانی داشته باشند.