basis/xmode/tokens/tokens.factor

   1 USING: accessors parser words sequences namespaces kernel assocs
   2 compiler.units ;
   3 IN: xmode.tokens
   4
   5 ! Based on org.gjt.sp.jedit.syntax.Token
   6 <<
   7 SYMBOL: tokens
   8
   9 { "COMMENT1" "COMMENT2" "COMMENT3" "COMMENT4" "DIGIT" "FUNCTION" "INVALID" "KEYWORD1" "KEYWORD2" "KEYWORD3" "KEYWORD4" "LABEL" "LITERAL1" "LITERAL2" "LITERAL3" "LITERAL4" "MARKUP" "OPERATOR" "END" "NULL" } [
  10     create-in dup define-symbol
  11     dup name>> swap
  12 ] H{ } map>assoc tokens set-global
  13 >>
  14
  15 : string>token ( string -- id ) tokens get at ;
  16
  17 TUPLE: token str id ;
  18
  19 C: <token> token