]> gitweb.factorcode.org Git - factor.git/commitdiff
math: fix some help-lint warnings.
authorJohn Benediktsson <mrjbq7@gmail.com>
Tue, 2 Mar 2021 20:54:49 +0000 (12:54 -0800)
committerJohn Benediktsson <mrjbq7@gmail.com>
Tue, 2 Mar 2021 20:54:49 +0000 (12:54 -0800)
basis/math/vectors/vectors-docs.factor
extra/math/matrices/extras/extras-docs.factor

index 04e013538dd5ca4c614a7e540a6164745613406c..5b18ee8b1a8e1e33336931c87eed6bee8cb1e2e4 100644 (file)
@@ -132,7 +132,7 @@ ARTICLE: "math-vectors-simd-logic" "Componentwise logic with SIMD vectors"
 { $example
     "USING: math.vectors math.vectors.simd prettyprint ;"
     "float-4{ 1.0 2.0 3.0 0/0. } float-4{ 1.0 -2.0 3.0 0/0. } v= ."
-    "float-4{ NAN: fffffe0000000 0.0 NAN: fffffe0000000 0.0 }"
+    "float-4{ NAN: -20000000 0.0 NAN: -20000000 0.0 }"
 }
 "For an integer vector, false will manifest as " { $snippet "0" } " and true as " { $snippet "-1" } " (for signed vectors) or the largest representable value of the element type (for unsigned vectors):"
 { $example
index c9b3a6ff750f1ae07520e00b33e67495eb9312ef..eca7cadebb2de1e992c42f8410ac522bebb61f57 100644 (file)
@@ -368,7 +368,7 @@ HELP: gram-schmidt-normalize
 "{
     { 0.4472135954999579 0.8944271909999159 }
     { 0.894427190999916 -0.447213595499958 }
-    { NAN: 8000000000000 NAN: 8000000000000 }
+    { -0/0. -0/0. }
 }"
     }
 } ;