core/parser/parser-docs.factor

   1 USING: help.markup help.syntax kernel sequences words
   2 math strings vectors quotations generic effects classes
   3 vocabs.loader definitions io vocabs source-files
   4 quotations namespaces compiler.units assocs lexer ;
   5 IN: parser
   6
   7 ARTICLE: "vocabulary-search-shadow" "Shadowing word names"
   8 "If adding a vocabulary to the search path results in a word in another vocabulary becoming inaccessible due to the new vocabulary defining a word with the same name, we say that the old word has been " { $emphasis "shadowed" } "."
   9 $nl
  10 "Here is an example where shadowing occurs:"
  11 { $code
  12     "IN: foe"
  13     "USING: sequences io ;"
  14     ""
  15     ": append"
  16     "    \"foe::append calls sequences:append\" print  append ;"
  17     ""
  18     "IN: fee"
  19     ""
  20     ": append"
  21     "    \"fee::append calls fee:append\" print  append ;"
  22     ""
  23     "IN: fox"
  24     "USE: foe"
  25     ""
  26     ": append"
  27     "    \"fox::append calls foe:append\" print  append ;"
  28     ""
  29     "\"1234\" \"5678\" append print"
  30     ""
  31     "USE: fox"
  32     "\"1234\" \"5678\" append print"
  33 }
  34 "When placed in a source file and run, the above code produces the following output:"
  35 { $code
  36     "foe:append calls sequences:append"
  37     "12345678"
  38     "fee:append calls foe:append"
  39     "foe:append calls sequences:append"
  40     "12345678"
  41 }
  42 "The " { $vocab-link "qualified" } " vocabulary contains some tools for helping with shadowing." ;
  43
  44 ARTICLE: "vocabulary-search-errors" "Word lookup errors"
  45 "If the parser cannot not find a word in the current vocabulary search path, it attempts to look for the word in all loaded vocabularies. Then, one of three things happen:"
  46 { $list
  47     { "If there are no words having this name at all, an error is thrown and parsing stops." }
  48     { "If there are vocabularies which contain words with this name, a restartable error is thrown, with a restart for each vocabulary in question. The restarts add the vocabulary to the search path and continue parsing." }
  49 }
  50 "When writing a new vocabulary, one approach is to ignore " { $link POSTPONE: USING: } " declarations altogether, then to load the vocabulary and observe any parser notes and restarts and use this information to write the correct " { $link POSTPONE: USING: } " declaration." ;
  51
  52 ARTICLE: "vocabulary-search" "Vocabulary search path"
  53 "When the parser reads a token, it attempts to look up a word named by that token. The lookup is performed by searching each vocabulary in the search path, in order."
  54 $nl
  55 "For a source file the vocabulary search path starts off with one vocabulary:"
  56 { $code "syntax" }
  57 "The " { $vocab-link "syntax" } " vocabulary consists of a set of parsing words for reading Factor data and defining new words."
  58 $nl
  59 "In the listener, the " { $vocab-link "scratchpad" } " is the default vocabulary for new word definitions. However, when loading source files, there is no default vocabulary. Defining words before declaring a vocabulary with " { $link POSTPONE: IN: } " results in an error."
  60 $nl
  61 "At the interactive listener, the default search path contains many more vocabularies. Details on the default search path and parser invocation are found in " { $link "parser" } "."
  62 $nl
  63 "Three parsing words deal with the vocabulary search path:"
  64 { $subsection POSTPONE: USE: }
  65 { $subsection POSTPONE: USING: }
  66 { $subsection POSTPONE: IN: }
  67 "Private words can be defined; note that this is just a convention and they can be called from other vocabularies anyway:"
  68 { $subsection POSTPONE: <PRIVATE }
  69 { $subsection POSTPONE: PRIVATE> }
  70 { $subsection "vocabulary-search-errors" }
  71 { $subsection "vocabulary-search-shadow" }
  72 { $see-also "words" } ;
  73
  74 ARTICLE: "reading-ahead" "Reading ahead"
  75 "Parsing words can consume input:"
  76 { $subsection scan }
  77 { $subsection scan-word }
  78 "For example, the " { $link POSTPONE: HEX: } " word uses this feature to read hexadecimal literals:"
  79 { $see POSTPONE: HEX: }
  80 "It is defined in terms of a lower-level word that takes the numerical base on the data stack, but reads the number from the parser and then adds it to the parse tree:"
  81 { $see parse-base }
  82 "Another simple example is the " { $link POSTPONE: \ } " word:"
  83 { $see POSTPONE: \ } ;
  84
  85 ARTICLE: "parsing-word-nest" "Nested structure"
  86 "Recall that the parser loop calls parsing words with an accumulator vector on the stack. The parser loop can be invoked recursively with a new, empty accumulator; the result can then be added to the original accumulator. This is how parsing words for object literals are implemented; object literals can nest arbitrarily deep."
  87 $nl
  88 "A simple example is the parsing word that reads a quotation:"
  89 { $see POSTPONE: [ }
  90 "This word uses a utility word which recursively invokes the parser, reading objects into a new accumulator until an occurrence of " { $link POSTPONE: ] } ":"
  91 { $subsection parse-literal }
  92 "There is another, lower-level word for reading nested structure, which is also useful when called directly:"
  93 { $subsection parse-until }
  94 "Words such as " { $link POSTPONE: ] } " use a declaration which causes them to throw an error when an unpaired occurrence is encountered:"
  95 { $subsection POSTPONE: delimiter }
  96 { $see-also POSTPONE: { POSTPONE: H{ POSTPONE: V{ POSTPONE: W{ POSTPONE: T{ POSTPONE: } } ;
  97
  98 ARTICLE: "defining-words" "Defining words"
  99 "Defining words add definitions to the dictionary without modifying the parse tree. The simplest example is the " { $link POSTPONE: SYMBOL: } " word."
 100 { $see POSTPONE: SYMBOL: }
 101 "The key factor in the definition of " { $link POSTPONE: SYMBOL: } " is " { $link CREATE } ", which reads a token from the input and creates a word with that name. This word is then passed to " { $link define-symbol } "."
 102 { $subsection CREATE }
 103 "Colon definitions are defined in a more elaborate way:"
 104 { $subsection POSTPONE: : }
 105 "The " { $link POSTPONE: : } " word first calls " { $link CREATE } ", and then reads input until reaching " { $link POSTPONE: ; } " using a utility word:"
 106 { $subsection parse-definition }
 107 "The " { $link POSTPONE: ; } " word is just a delimiter; an unpaired occurrence throws a parse error:"
 108 { $see POSTPONE: ; }
 109 "There are additional parsing words whose syntax is delimited by  " { $link POSTPONE: ; } ", and they are all implemented by calling " { $link parse-definition } "." ;
 110
 111 ARTICLE: "parsing-tokens" "Parsing raw tokens"
 112 "So far we have seen how to read individual tokens, or read a sequence of parsed objects until a delimiter. It is also possible to read raw tokens from the input and perform custom processing."
 113 $nl
 114 "One example is the " { $link POSTPONE: USING: } " parsing word."
 115 { $see POSTPONE: USING: }
 116 "It reads a list of vocabularies terminated by " { $link POSTPONE: ; } ". However, the vocabulary names do not name words, except by coincidence; so " { $link parse-until } " cannot be used here. Instead, a lower-level word is called:"
 117 { $subsection parse-tokens } ;
 118
 119 ARTICLE: "parsing-words" "Parsing words"
 120 "The Factor parser follows a simple recursive-descent design. The parser reads successive tokens from the input; if the token identifies a number or an ordinary word, it is added to an accumulator vector. Otherwise if the token identifies a parsing word, the parsing word is executed immediately."
 121 $nl
 122 "Parsing words are marked by suffixing the definition with a " { $link POSTPONE: parsing } " declaration. Here is the simplest possible parsing word; it prints a greeting at parse time:"
 123 { $code ": hello \"Hello world\" print ; parsing" }
 124 "Parsing words must not pop or push items from the stack; however, they are permitted to access the accumulator vector supplied by the parser at the top of the stack. That is, parsing words must have stack effect " { $snippet "( accum -- accum )" } ", where " { $snippet "accum" } " is the accumulator vector supplied by the parser."
 125 $nl
 126 "Parsing words can read input, add word definitions to the dictionary, and do anything an ordinary word can."
 127 $nl
 128 "Because of the stack restriction, parsing words cannot pass data to other words by leaving values on the stack; instead, use " { $link parsed } " to add the data to the parse tree so that it can be evaluated later."
 129 $nl
 130 "Parsing words cannot be called from the same source file where they are defined, because new definitions are only compiled at the end of the source file. An attempt to use a parsing word in its own source file raises an error:"
 131 { $subsection staging-violation }
 132 "Tools for implementing parsing words:"
 133 { $subsection "reading-ahead" }
 134 { $subsection "parsing-word-nest" }
 135 { $subsection "defining-words" }
 136 { $subsection "parsing-tokens" } ;
 137
 138 ARTICLE: "parser-files" "Parsing source files"
 139 "The parser can run source files:"
 140 { $subsection run-file }
 141 { $subsection parse-file }
 142 "The parser cross-references source files and definitions. This allows it to keep track of removed definitions, and prevent forward references and accidental redefinitions."
 143 $nl
 144 "While the above words are useful for one-off experiments, real programs should be written to use the vocabulary system instead; see " { $link "vocabs.loader" } "."
 145 { $see-also "source-files" } ;
 146
 147 ARTICLE: "top-level-forms" "Top level forms"
 148 "Any code outside of a definition is known as a " { $emphasis "top-level form" } "; top-level forms are run after the entire source file has been parsed, regardless of their position in the file."
 149 $nl
 150 "Top-level forms do not have access to the " { $link in } " and " { $link use } " variables that were set at parse time, nor do they run inside " { $link with-compilation-unit } "; so meta-programming might require extra work in a top-level form compared with a parsing word."
 151 $nl
 152 "Also, top-level forms run in a new dynamic scope, so using " { $link set } " to store values is almost always wrong, since the values will be lost after the top-level form completes. To save values computed by a top-level form, either use " { $link set-global } " or define a new word with the value." ;
 153
 154 ARTICLE: "parser" "The parser"
 155 "This parser is a general facility for reading textual representations of objects and definitions. The parser is implemented in the " { $vocab-link "parser" } " and " { $vocab-link "syntax" } " vocabularies."
 156 $nl
 157 "This section concerns itself with usage and extension of the parser. Standard syntax is described in " { $link "syntax" } "."
 158 { $subsection "vocabulary-search" }
 159 { $subsection "parser-files" }
 160 { $subsection "top-level-forms" }
 161 "The parser can be extended."
 162 { $subsection "parsing-words" }
 163 { $subsection "parser-lexer" }
 164 "The parser can be invoked reflectively;"
 165 { $subsection parse-stream }
 166 { $see-also "definitions" "definition-checking" } ;
 167
 168 ABOUT: "parser"
 169
 170 HELP: location
 171 { $values { "loc" "a " { $snippet "{ path line# }" } " pair" } }
 172 { $description "Outputs the current parser location. This value can be passed to " { $link set-where } " or " { $link remember-definition } "." } ;
 173
 174 HELP: save-location
 175 { $values { "definition" "a definition specifier" } }
 176 { $description "Saves the location of a definition and associates this definition with the current source file." } ;
 177
 178 HELP: parser-notes
 179 { $var-description "A boolean controlling whether the parser will print various notes and warnings. Switched on by default. If a source file is being run for its effect on " { $link output-stream } ", this variable should be switched off, to prevent parser notes from polluting the output." } ;
 180
 181 HELP: parser-notes?
 182 { $values { "?" "a boolean" } }
 183 { $description "Tests if the parser will print various notes and warnings. To disable parser notes, either set " { $link parser-notes } " to " { $link f } ", or pass the " { $snippet "-quiet" } " command line switch." } ;
 184
 185 HELP: bad-number
 186 { $error-description "Indicates the parser encountered an invalid numeric literal." } ;
 187
 188 HELP: use
 189 { $var-description "A variable holding the current vocabulary search path as a sequence of assocs." } ;
 190
 191 { use in use+ (use+) set-use set-in POSTPONE: USING: POSTPONE: USE: with-file-vocabs with-interactive-vocabs } related-words
 192
 193 HELP: in
 194 { $var-description "A variable holding the name of the current vocabulary for new definitions." } ;
 195
 196 HELP: current-vocab
 197 { $values { "str" "a vocabulary" } }
 198 { $description "Returns the vocabulary stored in the " { $link in } " symbol. Throws an error if the current vocabulary is " { $link f } "." } ;
 199
 200 HELP: (use+)
 201 { $values { "vocab" "an assoc mapping strings to words" } }
 202 { $description "Adds an assoc at the front of the search path." }
 203 $parsing-note ;
 204
 205 HELP: use+
 206 { $values { "vocab" string } }
 207 { $description "Adds a new vocabulary at the front of the search path after loading it if necessary. Subsequent word lookups by the parser will search this vocabulary first." }
 208 $parsing-note
 209 { $errors "Throws an error if the vocabulary does not exist." } ;
 210
 211 HELP: set-use
 212 { $values { "seq" "a sequence of strings" } }
 213 { $description "Sets the vocabulary search path. Later vocabularies take precedence." }
 214 { $errors "Throws an error if one of the vocabularies does not exist." }
 215 $parsing-note ;
 216
 217 HELP: add-use
 218 { $values { "seq" "a sequence of strings" } }
 219 { $description "Adds multiple vocabularies to the search path, with later vocabularies taking precedence." }
 220 { $errors "Throws an error if one of the vocabularies does not exist." }
 221 $parsing-note ;
 222
 223 HELP: set-in
 224 { $values { "name" string } }
 225 { $description "Sets the current vocabulary where new words will be defined, creating the vocabulary first if it does not exist." }
 226 $parsing-note ;
 227
 228 HELP: create-in
 229 { $values { "str" "a word name" } { "word" "a new word" } }
 230 { $description "Creates a word in the current vocabulary. Until re-defined, the word throws an error when invoked." }
 231 $parsing-note ;
 232
 233 HELP: CREATE
 234 { $values { "word" word } }
 235 { $description "Reads the next token from the line currently being parsed, and creates a word with that name in the current vocabulary." }
 236 { $errors "Throws an error if the end of the line is reached." }
 237 $parsing-note ;
 238
 239 HELP: no-word-error
 240 { $error-description "Thrown if the parser encounters a token which does not name a word in the current vocabulary search path. If any words with this name exist in vocabularies not part of the search path, a number of restarts will offer to add those vocabularies to the search path and use the chosen word." }
 241 { $notes "Apart from a missing " { $link POSTPONE: USE: } ", this error can also indicate an ordering issue. In Factor, words must be defined before they can be called. Mutual recursion can be implemented via " { $link POSTPONE: DEFER: } "." } ;
 242
 243 HELP: no-word
 244 { $values { "name" string } { "newword" word } }
 245 { $description "Throws a " { $link no-word-error } "." } ;
 246
 247 HELP: search
 248 { $values { "str" string } { "word/f" "a word or " { $link f } } }
 249 { $description "Searches for a word by name in the current vocabulary search path. If no such word could be found, outputs " { $link f } "." }
 250 $parsing-note ;
 251
 252 HELP: scan-word
 253 { $values { "word/number/f" "a word, number or " { $link f } } }
 254 { $description "Reads the next token from parser input. If the token is a valid number literal, it is converted to a number, otherwise the dictionary is searched for a word named by the token. Outputs " { $link f } " if the end of the input has been reached." }
 255 { $errors "Throws an error if the token does not name a word, and does not parse as a number." }
 256 $parsing-note ;
 257
 258 HELP: parse-step
 259 { $values { "accum" vector } { "end" word } { "?" "a boolean" } }
 260 { $description "Parses a token. If the token is a number or an ordinary word, it is added to the accumulator. If it is a parsing word, calls the parsing word with the accumulator on the stack. Outputs " { $link f } " if " { $snippet "end" } " is encountered, " { $link t } " otherwise." }
 261 $parsing-note ;
 262
 263 HELP: (parse-until)
 264 { $values { "accum" vector } { "end" word } }
 265 { $description "Parses objects from parser input until " { $snippet "end" } " is encountered, adding them to the accumulator." }
 266 $parsing-note ;
 267
 268 HELP: parse-until
 269 { $values { "end" word } { "vec" "a new vector" } }
 270 { $description "Parses objects from parser input until " { $snippet "end" } ". Outputs a new vector with the results." }
 271 { $examples "This word is used to implement " { $link POSTPONE: ARTICLE: } "." }
 272 $parsing-note ;
 273
 274 { parse-tokens (parse-until) parse-until } related-words
 275
 276 HELP: parsed
 277 { $values { "accum" vector } { "obj" object } }
 278 { $description "Convenience word for parsing words. It behaves exactly the same as " { $link push } ", except the accumulator remains on the stack." }
 279 $parsing-note ;
 280
 281 HELP: (parse-lines)
 282 { $values { "lexer" lexer } { "quot" "a new " { $link quotation } } }
 283 { $description "Parses Factor source code using a custom lexer. The vocabulary search path is taken from the current scope." }
 284 { $errors "Throws a " { $link lexer-error } " if the input is malformed." } ;
 285
 286 HELP: parse-lines
 287 { $values { "lines" "a sequence of strings" } { "quot" "a new " { $link quotation } } }
 288 { $description "Parses Factor source code which has been tokenized into lines. The vocabulary search path is taken from the current scope." }
 289 { $errors "Throws a " { $link lexer-error } " if the input is malformed." } ;
 290
 291 HELP: parse-base
 292 { $values { "base" "an integer between 2 and 36" } { "parsed" integer } }
 293 { $description "Reads an integer in a specific numerical base from the parser input." }
 294 $parsing-note ;
 295
 296 HELP: parse-literal
 297 { $values { "accum" vector } { "end" word } { "quot" "a quotation with stack effect " { $snippet "( seq -- obj )" } } }
 298 { $description "Parses objects from parser input until " { $snippet "end" } ", applies the quotation to the resulting sequence, and adds the output value to the accumulator." }
 299 { $examples "This word is used to implement " { $link POSTPONE: [ } "." }
 300 $parsing-note ;
 301
 302 HELP: parse-definition
 303 { $values { "quot" "a new " { $link quotation } } }
 304 { $description "Parses objects from parser input until " { $link POSTPONE: ; } " and outputs a quotation with the results." }
 305 { $examples "This word is used to implement " { $link POSTPONE: : } "." }
 306 $parsing-note ;
 307
 308 HELP: bootstrap-syntax
 309 { $var-description "Only set during bootstrap. Stores a copy of the " { $link vocab-words } " of the host's syntax vocabulary; this allows the host's parsing words to be used during bootstrap source parsing, not the target's." } ;
 310
 311 HELP: with-file-vocabs
 312 { $values { "quot" quotation } }
 313 { $description "Calls the quotation in a scope with the initial the vocabulary search path for parsing a file. This consists of just the " { $snippet "syntax" } " vocabulary." } ;
 314
 315 HELP: parse-fresh
 316 { $values { "lines" "a sequence of strings" } { "quot" quotation } }
 317 { $description "Parses Factor source code in a sequence of lines. The initial vocabulary search path is used (see " { $link with-file-vocabs } ")." }
 318 { $errors "Throws a parse error if the input is malformed." } ;
 319
 320 HELP: filter-moved
 321 { $values { "assoc1" assoc } { "assoc2" assoc } { "seq" "an seqence of definitions" } }
 322 { $description "Removes all definitions from " { $snippet "assoc2" } " which are in " { $snippet "assoc1" } " or are are no longer present in the current " { $link file } "." } ;
 323
 324 HELP: forget-smudged
 325 { $description "Forgets removed definitions and prints a warning message if any of them are still referenced from other source files." } ;
 326
 327 HELP: finish-parsing
 328 { $values { "lines" "the lines of text just parsed" } { "quot" "the quotation just parsed" } }
 329 { $description "Records information to the current " { $link file } " and prints warnings about any removed definitions which are still in use." }
 330 { $notes "This is one of the factors of " { $link parse-stream } "." } ;
 331
 332 HELP: parse-stream
 333 { $values { "stream" "an input stream" } { "name" "a file name for error reporting and cross-referencing" } { "quot" quotation } }
 334 { $description "Parses Factor source code read from the stream. The initial vocabulary search path is used." }
 335 { $errors "Throws an I/O error if there was an error reading from the stream. Throws a parse error if the input is malformed." } ;
 336
 337 HELP: parse-file
 338 { $values { "file" "a pathname string" } { "quot" quotation } }
 339 { $description "Parses the Factor source code stored in a file. The initial vocabulary search path is used." }
 340 { $errors "Throws an I/O error if there was an error reading from the file. Throws a parse error if the input is malformed." } ;
 341
 342 HELP: run-file
 343 { $values { "file" "a pathname string" } }
 344 { $description "Parses the Factor source code stored in a file and runs it. The initial vocabulary search path is used." }
 345 { $errors "Throws an error if loading the file fails, there input is malformed, or if a runtime error occurs while calling the parsed quotation." }  ;
 346
 347 HELP: ?run-file
 348 { $values { "path" "a pathname string" } }
 349 { $description "If the file exists, runs it with " { $link run-file } ", otherwise does nothing." } ;
 350
 351 HELP: staging-violation
 352 { $values { "word" word } }
 353 { $description "Throws a " { $link staging-violation } " error." }
 354 { $error-description "Thrown by the parser if a parsing word is used in the same compilation unit as where it was defined; see " { $link "compilation-units" } "." }
 355 { $notes "One possible workaround is to use the " { $link POSTPONE: << } " word to execute code at parse time. However, executing words defined in the same source file at parse time is still prohibited." } ;