octave_packages/m/statistics/models/private/logistic_regression_derivatives.m

   1 ## Copyright (C) 1995-2012 Kurt Hornik
   2 ##
   3 ## This file is part of Octave.
   4 ##
   5 ## Octave is free software; you can redistribute it and/or modify it
   6 ## under the terms of the GNU General Public License as published by
   7 ## the Free Software Foundation; either version 3 of the License, or (at
   8 ## your option) any later version.
   9 ##
  10 ## Octave is distributed in the hope that it will be useful, but
  11 ## WITHOUT ANY WARRANTY; without even the implied warranty of
  12 ## MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  13 ## General Public License for more details.
  14 ##
  15 ## You should have received a copy of the GNU General Public License
  16 ## along with Octave; see the file COPYING.  If not, see
  17 ## <http://www.gnu.org/licenses/>.
  18
  19 ## -*- texinfo -*-
  20 ## @deftypefn {Function File} {[@var{dl}, @var{d2l}] =} logistic_regression_derivatives (@var{x}, @var{z}, @var{z1}, @var{g}, @var{g1}, @var{p})
  21 ## Calculate derivatives of the log-likelihood for ordinal logistic regression
  22 ## model.
  23 ## Private function called by @code{logistic_regression}.
  24 ## @seealso{logistic_regression}
  25 ## @end deftypefn
  26
  27 ## Author: Gordon K. Smyth <gks@maths.uq.oz.au>
  28 ## Adapted-By: KH <Kurt.Hornik@wu-wien.ac.at>
  29 ## Description: Derivates of log-likelihood in logistic regression
  30
  31 function [dl, d2l] = logistic_regression_derivatives (x, z, z1, g, g1, p)
  32
  33   if (nargin != 6)
  34     print_usage ();
  35   endif
  36
  37   ## first derivative
  38   v = g .* (1 - g) ./ p; v1 = g1 .* (1 - g1) ./ p;
  39   dlogp = [(diag (v) * z - diag (v1) * z1), (diag (v - v1) * x)];
  40   dl = sum (dlogp)';
  41
  42   ## second derivative
  43   w = v .* (1 - 2 * g); w1 = v1 .* (1 - 2 * g1);
  44   d2l = [z, x]' * diag (w) * [z, x] - [z1, x]' * diag (w1) * [z1, x] ...
  45       - dlogp' * dlogp;
  46
  47 endfunction