basis/unicode/normalize/normalize-tests.factor

   1 USING: assocs combinators.short-circuit kernel locals math
   2 math.parser sequences simple-flat-file splitting tools.test
   3 unicode unicode.normalize.private ;
   4 IN: unicode.normalize.tests
   5
   6 { "ab\u000323\u000302cd" } [ "ab\u000302" "\u000323cd" string-append ] unit-test
   7
   8 { "ab\u00064b\u000347\u00034e\u00034d\u000346" } [ "ab\u000346\u000347\u00064b\u00034e\u00034d" dup reorder ] unit-test
   9 { "hello" "hello" } [ "hello" [ nfd ] keep nfkd ] unit-test
  10 { "\u00FB012\u002075\u00017F\u000323\u000307" "fi25s\u000323\u000307" }
  11 [ "\u00FB012\u002075\u001E9B\u000323" [ nfd ] keep nfkd ] unit-test
  12
  13 { "\u001E69" "s\u000323\u000307" } [ "\u001E69" [ nfc ] keep nfd ] unit-test
  14 { "\u001E0D\u000307" } [ "\u001E0B\u000323" nfc ] unit-test
  15
  16 { 54620 } [ 4370 4449 4523 jamo>hangul ] unit-test
  17 { 4370 4449 4523 } [ 54620 hangul>jamo first3 ] unit-test
  18 { t } [ 54620 hangul? ] unit-test
  19 { f } [ 0 hangul? ] unit-test
  20 { "\u001112\u001161\u0011ab" } [ "\u00d55c" nfd ] unit-test
  21 { "\u00d55c" } [ "\u001112\u001161\u0011ab" nfc ] unit-test
  22
  23 :: check? ( test spec quot -- ? )
  24     spec [
  25         [
  26             [ 1 - test nth ] bi@ quot call( str -- str' ) =
  27         ] with all?
  28     ] assoc-all? ;
  29
  30 { 17768 { } } [
  31     "vocab:unicode/normalize/NormalizationTest.txt" data
  32     [ 5 head [ " " split [ hex> ] "" map-as ] map ] map
  33     [ length ] keep [
  34         {
  35             [ { { 2 { 1 2 3 } } { 4 { 4 5 } } } [ nfc ] check? ]
  36             [ { { 3 { 1 2 3 } } { 5 { 4 5 } } } [ nfd ] check? ]
  37             [ { { 4 { 1 2 3 4 5 } } } [ nfkc ] check? ]
  38             [ { { 5 { 1 2 3 4 5 } } } [ nfkd ] check? ]
  39         } 1&&
  40     ] reject
  41 ] unit-test