basis/math/statistics/statistics.factor

   1 ! Copyright (C) 2008 Doug Coleman, Michael Judge.
   2 ! See http://factorcode.org/license.txt for BSD license.
   3 USING: assocs combinators generalizations kernel locals math
   4 math.functions math.order sequences sequences.private sorting ;
   5 IN: math.statistics
   6
   7 : mean ( seq -- x )
   8     [ sum ] [ length ] bi / ;
   9
  10 : geometric-mean ( seq -- x )
  11     [ length ] [ product ] bi nth-root ;
  12
  13 : harmonic-mean ( seq -- x )
  14     [ recip ] map-sum recip ;
  15
  16 :: kth-smallest ( seq k -- elt )
  17     #! Wirth's method, Algorithm's + Data structues = Programs p. 84
  18     #! The algorithm modifiers seq, so we clone it
  19     seq clone :> seq
  20     0 :> i!
  21     0 :> j!
  22     0 :> l!
  23     0 :> x!
  24     seq length 1 - :> m!
  25     [ l m < ]
  26     [
  27         k seq nth x!
  28         l i!
  29         m j!
  30         [ i j <= ]
  31         [
  32             [ i seq nth-unsafe x < ] [ i 1 + i! ] while
  33             [ x j seq nth-unsafe < ] [ j 1 - j! ] while
  34             i j <= [
  35                 i j seq exchange-unsafe
  36                 i 1 + i!
  37                 j 1 - j!
  38             ] when
  39         ] do while
  40
  41         j k < [ i l! ] when
  42         k i < [ j m! ] when
  43     ] while
  44     k seq nth ; inline
  45
  46 : lower-median ( seq -- elt )
  47     [ ] [ ] [ length odd? ] tri
  48     [ midpoint@ ] [ midpoint@ 1 - ] if kth-smallest ;
  49
  50 : upper-median ( seq -- elt )
  51     dup midpoint@ kth-smallest ;
  52
  53 : medians ( seq -- lower upper )
  54     [ lower-median ] [ upper-median ] bi ;
  55
  56 : median ( seq -- x )
  57     [ ] [ length odd? ] bi [ lower-median ] [ medians + 2 / ] if ;
  58
  59 <PRIVATE
  60
  61 : (sequence>assoc) ( seq quot1 quot2 assoc -- assoc )
  62     [ swap curry compose each ] keep ; inline
  63
  64 PRIVATE>
  65
  66 : sequence>assoc! ( assoc seq quot1 quot2 -- assoc )
  67     4 nrot (sequence>assoc) ; inline
  68
  69 : sequence>assoc ( seq quot1 quot2 exemplar -- assoc )
  70     clone (sequence>assoc) ; inline
  71
  72 : sequence>hashtable ( seq quot1 quot2 -- hashtable )
  73     H{ } sequence>assoc ; inline
  74
  75 : histogram! ( hashtable seq -- hashtable )
  76     [ ] [ inc-at ] sequence>assoc! ;
  77
  78 : histogram ( seq -- hashtable )
  79     [ ] [ inc-at ] sequence>hashtable ;
  80
  81 : sorted-histogram ( seq -- alist )
  82     histogram >alist sort-values ;
  83
  84 : collect-pairs ( seq quot -- hashtable )
  85     [ push-at ] sequence>hashtable ; inline
  86
  87 : collect-by ( seq quot -- hashtable )
  88     [ dup ] prepose collect-pairs ; inline
  89
  90 : mode ( seq -- x )
  91     histogram >alist
  92     [ ] [ [ [ second ] bi@ > ] 2keep ? ] map-reduce first ;
  93
  94 ERROR: empty-sequence ;
  95
  96 : minmax ( seq -- min max )
  97     [
  98         empty-sequence
  99     ] [
 100         [ first dup ] keep [ [ min ] [ max ] bi-curry bi* ] each
 101     ] if-empty ;
 102
 103 : range ( seq -- x )
 104     minmax swap - ;
 105
 106 : var ( seq -- x )
 107     #! normalize by N-1
 108     dup length 1 <= [
 109         drop 0
 110     ] [
 111         [ [ mean ] keep [ - sq ] with map-sum ]
 112         [ length 1 - ] bi /
 113     ] if ;
 114
 115 : std ( seq -- x ) var sqrt ;
 116
 117 : ste ( seq -- x ) [ std ] [ length ] bi sqrt / ;
 118
 119 : ((r)) ( mean(x) mean(y) {x} {y} -- (r) )
 120     ! finds sigma((xi-mean(x))(yi-mean(y))
 121     0 [ [ [ pick ] dip swap - ] bi@ * + ] 2reduce 2nip ;
 122
 123 : (r) ( mean(x) mean(y) {x} {y} sx sy -- r )
 124     * recip [ [ ((r)) ] keep length 1 - / ] dip * ;
 125
 126 : [r] ( {{x,y}...} -- mean(x) mean(y) {x} {y} sx sy )
 127     first2 [ [ [ mean ] bi@ ] 2keep ] 2keep [ std ] bi@ ;
 128
 129 : r ( {{x,y}...} -- r )
 130     [r] (r) ;
 131
 132 : r^2 ( {{x,y}...} -- r )
 133     r sq ;
 134
 135 : least-squares ( {{x,y}...} -- alpha beta )
 136     [r] { [ 2dup ] [ ] [ ] [ ] [ ] } spread
 137     ! stack is mean(x) mean(y) mean(x) mean(y) {x} {y} sx sy
 138     [ (r) ] 2keep ! stack is mean(x) mean(y) r sx sy
 139     swap / * ! stack is mean(x) mean(y) beta
 140     [ swapd * - ] keep ;