source: project/chicken/trunk/compiler.scm @ 12596

Last change on this file since 12596 was 12596, checked in by felix winkelmann, 11 years ago

fixed import form check (handles aliasing); bumped version to 4.0.0x3

File size: 93.9 KB
Line 
1;;;; compiler.scm - The CHICKEN Scheme compiler
2;
3;
4; "This is insane. What we clearly want to do is not exactly clear, and is rooted in NCOMPLR."
5;
6;
7;-----------------------------------------------------------------------------------------------------------
8; Copyright (c) 2000-2007, Felix L. Winkelmann
9; Copyright (c) 2008, The Chicken Team
10; All rights reserved.
11;
12; Redistribution and use in source and binary forms, with or without modification, are permitted provided that the following
13; conditions are met:
14;
15;   Redistributions of source code must retain the above copyright notice, this list of conditions and the following
16;     disclaimer.
17;   Redistributions in binary form must reproduce the above copyright notice, this list of conditions and the following
18;     disclaimer in the documentation and/or other materials provided with the distribution.
19;   Neither the name of the author nor the names of its contributors may be used to endorse or promote
20;     products derived from this software without specific prior written permission.
21;
22; THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS" AND ANY EXPRESS
23; OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY
24; AND FITNESS FOR A PARTICULAR PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDERS OR
25; CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
26; CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR
27; SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY
28; THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR
29; OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE
30; POSSIBILITY OF SUCH DAMAGE.
31;
32;
33; Supported syntax:
34;
35; - Declaration specifiers:
36;
37; ([not] extended-bindings {<name>})
38; ([not] inline {<var>})
39; ([not] interrupts-enabled)
40; ([not] safe)
41; ([not] standard-bindings {<name>})
42; ([not] usual-integrations {<name>})
43; (local {<name> ...})
44; ([not] inline-global {<name>})
45; ([number-type] <type>)
46; (always-bound {<name>})
47; (block)
48; (block-global {<name>})
49; (bound-to-procedure {<var>})
50; (c-options {<opt>})
51; (compile-syntax)
52; (disable-interrupts)
53; (disable-warning <class> ...)
54; (emit-import-library {<module> | (<module> <filename>)})
55; (export {<name>})
56; (fixnum-arithmetic)
57; (foreign-declare {<string>})
58; (hide {<name>})
59; (inline-limit <limit>)
60; (keep-shadowed-macros)
61; (lambda-lift)
62; (link-options {<opt>})
63; (no-argc-checks)
64; (no-bound-checks)
65; (no-procedure-checks)
66; (no-procedure-checks-for-usual-bindings)
67; (post-process <string> ...)
68; (profile <symbol> ...)
69; (safe-globals)
70; (separate)
71; (unit <unitname>)
72; (unsafe)
73; (unused <symbol> ...)
74; (uses {<unitname>})
75;
76;   <type> = fixnum | generic
77
78; - Global symbol properties:
79;
80;   ##compiler#always-bound -> BOOL
81;   ##compiler#always-bound-to-procedure -> BOOL
82;   ##compiler#local -> BOOL
83;   ##compiler#visibility -> #f | 'hidden | 'exported
84;   ##compiler#constant -> BOOL
85;   ##compiler#intrinsic -> #f | 'standard | 'extended
86;   ##compiler#inline -> 'no | 'yes
87;   ##compiler#inline-global -> 'yes | 'no | <node>
88;   ##compiler#profile -> BOOL
89;   ##compiler#unused -> BOOL
90
91; - Source language:
92;
93; <variable>
94; <constant>
95; (##core#declare {<spec>})
96; (##core#immutable <exp>)
97; (##core#global-ref <variable>)
98; (quote <exp>)
99; (if <exp> <exp> [<exp>])
100; ([##core#]let <variable> ({(<variable> <exp>)}) <body>)
101; ([##core#]let ({(<variable> <exp>)}) <body>)
102; ([##core#]letrec ({(<variable> <exp>)}) <body>)
103; (##core#let-location <symbol> <type> [<init>] <exp>)
104; ([##core#]lambda <variable> <body>)
105; ([##core#]lambda ({<variable>}+ [. <variable>]) <body>)
106; ([##core#]set! <variable> <exp>)
107; (##core#named-lambda <name> <llist> <body>)
108; (##core#loop-lambda <llist> <body>)
109; (##core#undefined)
110; (##core#primitive <name>)
111; (##core#inline <op> {<exp>})
112; (##core#inline_allocate (<op> <words>) {<exp>})
113; (##core#inline_ref (<name> <type>))
114; (##core#inline_update (<name> <type>) <exp>)
115; (##core#inline_loc_ref (<type>) <exp>)
116; (##core#inline_loc_update (<type>) <exp> <exp>)
117; (##core#compiletimetoo <exp>)
118; (##core#compiletimeonly <exp>)
119; (##core#elaborationtimetoo <exp>)
120; (##core#elaborationtimeonly <exp>)
121; (define-foreign-variable <symbol> <type> [<string>])
122; (define-foreign-type <symbol> <type> [<proc1> [<proc2>]])
123; (foreign-lambda <type> <string> {<type>})
124; (foreign-lambda* <type> ({(<type> <var>)})) {<string>})
125; (foreign-safe-lambda <type> <string> {<type>})
126; (foreign-safe-lambda* <type> ({(<type> <var>)})) {<string>})
127; (foreign-primitive <type> ({(<type> <var>)}) {<string>})
128; (##core#define-inline <name> <exp>)
129; (define-constant <name> <exp>)
130; (##core#foreign-callback-wrapper '<name> <qualifiers> '<type> '({<type>}) <exp>)
131; (##core#define-external-variable (quote <name>) (quote <type>) (quote <bool>))
132; (##core#check <exp>)
133; (##core#require-for-syntax <exp> ...)
134; (##core#require-extension (<id> ...) <bool>)
135; (##core#app <exp> {<exp>})
136; (##coresyntax <exp>)
137; (<exp> {<exp>})
138; (define-syntax <symbol> <expr>)
139; (define-syntax (<symbol> . <llist>) <expr> ...)
140; (define-compiled-syntax <symbol> <expr>)
141; (define-compiled-syntax (<symbol> . <llist>) <expr> ...)
142; (##core#module <symbol> #t | (<name> | (<name> ...) ...) <body>)
143
144; - Core language:
145;
146; [##core#variable {<variable>}]
147; [if {} <exp> <exp> <exp>)]
148; [quote {<exp>}]
149; [let {<variable>} <exp-v> <exp>]
150; [##core#lambda {<id> <mode> (<variable>... [. <variable>]) <size>} <exp>]
151; [set! {<variable>} <exp>]
152; [##core#undefined {}]
153; [##core#global-ref {<variable>}]
154; [##core#primitive {<name>}]
155; [##core#inline {<op>} <exp>...]
156; [##core#inline_allocate {<op> <words>} <exp>...]
157; [##core#inline_ref {<name> <type>}]
158; [##core#inline_update {<name> <type>} <exp>]
159; [##core#inline_loc_ref {<type>} <exp>]
160; [##core#inline_loc_update {<type>} <exp> <exp>]
161; [##core#call {<safe-flag> [<debug-info>]} <exp-f> <exp>...]
162; [##core#callunit {<unitname>} <exp>...]
163; [##core#switch {<count>} <exp> <const1> <body1> ... <defaultbody>]
164; [##core#cond <exp> <exp> <exp>]
165; [##core#recurse {<tail-flag>} <exp1> ...]
166; [##core#return <exp>]
167; [##core#direct_call {<safe-flag> <debug-info> <call-id> <words>} <exp-f> <exp>...]
168; [##core#direct_lambda {<id> <mode> (<variable>... [. <variable>]) <size>} <exp>]
169
170; - Closure converted/prepared language:
171;
172; [if {} <exp> <exp> <exp>]
173; [quote {<exp>}]
174; [##core#bind {<count>} <exp-v>... <exp>]
175; [##core#undefined {}]
176; [##core#inline {<op>} <exp>...]
177; [##core#inline_allocate {<op <words>} <exp>...]
178; [##core#inline_ref {<name> <type>}]
179; [##core#inline_update {<name> <type>} <exp>]
180; [##core#inline_loc_ref {<type>} <exp>]
181; [##core#inline_loc_update {<type>} <exp> <exp>]
182; [##core#closure {<count>} <exp>...]
183; [##core#box {} <exp>]
184; [##core#unbox {} <exp>]
185; [##core#ref {<index>} <exp>]
186; [##core#update {<index>} <exp> <exp>]
187; [##core#updatebox {} <exp> <exp>]
188; [##core#update_i {<index>} <exp> <exp>]
189; [##core#updatebox_i {} <exp> <exp>]
190; [##core#call {<safe-flag> [<debug-info> [<call-id> <customizable-flag>]]} <exp-f> <exp>...]
191; [##core#callunit {<unitname>} <exp>...]
192; [##core#cond <exp> <exp> <exp>]
193; [##core#local {<index>}]
194; [##core#setlocal {<index>} <exp>]
195; [##core#global {<literal> <safe-flag> <block-mode> [<name>]}]
196; [##core#setglobal {<literal> <block-mode> <name>} <exp>]
197; [##core#setglobal_i {<literal> <block-mode> <name>} <exp>]
198; [##core#literal {<literal>}]
199; [##core#immediate {<type> [<immediate>]}]     - type: bool/fix/nil/char
200; [##core#proc {<name> [<non-internal>]}]
201; [##core#recurse {<tail-flag> <call-id>} <exp1> ...]
202; [##core#return <exp>]
203; [##core#direct_call {<safe-flag> <debug-info> <call-id> <words>} <exp-f> <exp>...]
204
205; Analysis database entries:
206;
207; <variable>:
208;
209;   captured -> <boolean>                    If true: variable is used outside it's home-scope
210;   global -> <boolean>                      If true: variable does not occur in any lambda-list
211;   call-sites -> ((<lambda-id> <node>) ...) Known call-nodes of a named procedure
212;   home -> <lambda-id>                      Procedure which introduces this variable
213;   unknown -> <boolean>                     If true: variable can not have a known value
214;   assigned -> <boolean>                    If true: variable is assigned somewhere
215;   assigned-locally -> <boolean>            If true: variable has been assigned inside user lambda
216;   undefined -> <boolean>                   If true: variable is unknown yet but can be known later
217;   value -> <node>                          Variable has a known value
218;   local-value -> <node>                    Variable is declared local and has value
219;   potential-value -> <node>                Global variable was assigned this value
220;   references -> (<node> ...)               Nodes that are accesses of this variable (##core#variable nodes)
221;   side-effecting -> <boolean>              If true: variable names side-effecting standard-binding
222;   foldable -> <boolean>                    If true: variable names foldable standard-binding
223;   boxed -> <boolean>                       If true: variable has to be boxed after closure-conversion
224;   contractable -> <boolean>                If true: variable names contractable procedure
225;   inlinable -> <boolean>                   If true: variable names potentially inlinable procedure
226;   collapsable -> <boolean>                 If true: variable refers to collapsable constant
227;   removable -> <boolean>                   If true: variable is not used
228;   replacable -> <variable>                 Variable can be replaced by another variable
229;   replacing -> <boolean>                   If true: variable can replace another variable (don't remove)
230;   standard-binding -> <boolean>            If true: variable names a standard binding
231;   extended-binding -> <boolean>            If true: variable names an extended binding
232;   unused -> <boolean>                      If true: variable is a formal parameter that is never used
233;   rest-parameter -> #f | 'vector | 'list   If true: variable holds rest-argument list mode
234;   o-r/access-count -> <n>                  Contains number of references as arguments of optimizable rest operators
235;   constant -> <boolean>                    If true: variable has fixed value
236;   hidden-refs -> <boolean>                 If true: procedure that refers to hidden global variables
237;
238; <lambda-id>:
239;
240;   contains -> (<lambda-id> ...)            Procedures contained in this lambda
241;   contained-in -> <lambda-id>              Procedure containing this lambda
242;   has-unused-parameters -> <boolean>       If true: procedure has unused formal parameters
243;   use-expr -> (<lambda-id> ...)            Marks non-direct use-sites of common subexpression
244;   closure-size -> <integer>                Number of free variables stored in a closure
245;   customizable -> <boolean>                If true: all call sites are known, procedure does not escape
246;   simple -> <boolean>                      If true: procedure only calls its continuation
247;   explicit-rest -> <boolean>               If true: procedure is called with consed rest list
248;   captured-variables -> (<var> ...)        List of closed over variables
249
250
251(declare
252 (unit compiler)
253 (disable-warning var) )
254
255#>
256#ifndef C_INSTALL_SHARE_HOME
257# define C_INSTALL_SHARE_HOME NULL
258#endif
259
260#ifndef C_DEFAULT_TARGET_STACK_SIZE
261# define C_DEFAULT_TARGET_STACK_SIZE 0
262#endif
263
264#ifndef C_DEFAULT_TARGET_HEAP_SIZE
265# define C_DEFAULT_TARGET_HEAP_SIZE 0
266#endif
267<#
268
269
270(private compiler
271  compiler-arguments process-command-line explicit-use-flag
272  default-standard-bindings default-extended-bindings side-effecting-standard-bindings
273  non-foldable-standard-bindings foldable-standard-bindings non-foldable-extended-bindings foldable-extended-bindings
274  standard-bindings-that-never-return-false side-effect-free-standard-bindings-that-never-return-false
275  installation-home decompose-lambda-list external-to-pointer defconstant-bindings constant-declarations
276  copy-node! error-is-extended-binding toplevel-scope toplevel-lambda-id
277  unit-name insert-timer-checks used-units external-variables require-imports-flag
278  profile-info-vector-name finish-foreign-result pending-canonicalizations
279  foreign-declarations emit-trace-info block-compilation line-number-database-size
280  make-block-variable-literal block-variable-literal? block-variable-literal-name
281  target-heap-size target-stack-size valid-c-identifier? profiled-procedures standalone-executable
282  target-initial-heap-size internal-bindings source-filename dump-nodes source-info->string
283  default-default-target-heap-size default-default-target-stack-size verbose-mode original-program-size
284  current-program-size line-number-database-2 foreign-lambda-stubs immutable-constants foreign-variables
285  rest-parameters-promoted-to-vector inline-table inline-table-used constant-table constants-used 
286  broken-constant-nodes inline-substitutions-enabled loop-lambda-names expand-profile-lambda
287  profile-lambda-list profile-lambda-index emit-profile expand-profile-lambda
288  direct-call-ids foreign-type-table first-analysis callback-names disabled-warnings
289  initialize-compiler canonicalize-expression expand-foreign-lambda update-line-number-database! scan-toplevel-assignments
290  compiler-warning variable-visible? hide-variable mark-variable inline-locally
291  perform-cps-conversion analyze-expression simplifications perform-high-level-optimizations perform-pre-optimization!
292  reorganize-recursive-bindings substitution-table simplify-named-call inline-max-size
293  perform-closure-conversion prepare-for-code-generation compiler-source-file create-foreign-stub 
294  expand-foreign-lambda* data-declarations emit-control-file-item expand-foreign-primitive
295  process-declaration external-protos-first basic-literal?
296  transform-direct-lambdas! expand-foreign-callback-lambda* debugging emit-unsafe-marker
297  debugging-chicken bomb check-signature posq stringify symbolify build-lambda-list
298  string->c-identifier c-ify-string words check-and-open-input-file close-checked-input-file fold-inner constant?
299  collapsable-literal? immediate? canonicalize-begin-body extract-mutable-constants string->expr get get-all
300  put! collect! count! get-line get-line-2 find-lambda-container display-analysis-database varnode qnode 
301  build-node-graph build-expression-tree fold-boolean inline-lambda-bindings match-node expression-has-side-effects?
302  simple-lambda-node? compute-database-statistics print-program-statistics output gen gen-list 
303  pprint-expressions-to-file foreign-type-check estimate-foreign-result-size scan-used-variables scan-free-variables
304  topological-sort print-version print-usage initialize-analysis-database csc-control-file
305  estimate-foreign-result-location-size inline-output-file
306  expand-foreign-callback-lambda default-optimization-passes default-optimization-passes-when-trying-harder
307  units-used-by-default words-per-flonum disable-stack-overflow-checking
308  parameter-limit eq-inline-operator optimizable-rest-argument-operators postponed-initforms
309  membership-test-operators membership-unfold-limit valid-compiler-options valid-compiler-options-with-argument
310  make-random-name final-foreign-type real-name-table real-name set-real-name! safe-globals-flag
311  location-pointer-map literal-rewrite-hook inline-globally
312  local-definitions export-variable variable-mark intrinsic?
313  undefine-shadowed-macros process-lambda-documentation emit-syntax-trace-info
314  generate-code make-variable-list make-argument-list generate-foreign-stubs foreign-type-declaration
315  do-lambda-lifting file-requirements emit-closure-info 
316  foreign-argument-conversion foreign-result-conversion foreign-type-convert-argument foreign-type-convert-result
317  big-fixnum? import-libraries unlikely-variables)
318
319
320(include "tweaks")
321
322
323(define-inline (gensym-f-id) (gensym 'f_))
324
325(eval-when (eval)
326  (define installation-home #f)
327  (define default-target-heap-size #f)
328  (define default-target-stack-size #f) )
329
330(eval-when (load)
331  (define-foreign-variable installation-home c-string "C_INSTALL_SHARE_HOME")
332  (define-foreign-variable default-target-heap-size int "C_DEFAULT_TARGET_HEAP_SIZE")
333  (define-foreign-variable default-target-stack-size int "C_DEFAULT_TARGET_STACK_SIZE") )
334
335(define-constant foreign-type-table-size 301)
336(define-constant analysis-database-size 3001)
337(define-constant default-line-number-database-size 997)
338(define-constant inline-table-size 301)
339(define-constant constant-table-size 301)
340(define-constant file-requirements-size 301)
341(define-constant real-name-table-size 997)
342(define-constant default-inline-max-size 20)
343
344
345;;; Global variables containing compilation parameters:
346
347(define unit-name #f)
348(define number-type 'generic)
349(define standard-bindings '())
350(define extended-bindings '())
351(define insert-timer-checks #t)
352(define used-units '())
353(define unsafe #f)
354(define foreign-declarations '())
355(define emit-trace-info #f)
356(define block-compilation #f)
357(define line-number-database-size default-line-number-database-size)
358(define target-heap-size #f)
359(define target-initial-heap-size #f)
360(define target-stack-size #f)
361(define optimize-leaf-routines #f)
362(define emit-profile #f)
363(define no-bound-checks #f)
364(define no-argc-checks #f)
365(define no-procedure-checks #f)
366(define source-filename #f)
367(define safe-globals-flag #f)
368(define explicit-use-flag #f)
369(define disable-stack-overflow-checking #f)
370(define require-imports-flag #f)
371(define emit-unsafe-marker #f)
372(define external-protos-first #f)
373(define do-lambda-lifting #f)
374(define inline-max-size default-inline-max-size)
375(define emit-closure-info #t)
376(define undefine-shadowed-macros #t)
377(define constant-declarations '())
378(define profiled-procedures #f)
379(define import-libraries '())
380(define standalone-executable #t)
381(define local-definitions #f)
382(define inline-globally #f)
383(define inline-locally #f)
384(define inline-output-file #f)
385
386
387;;; These are here so that the backend can access them:
388
389(define default-default-target-heap-size default-target-heap-size)
390(define default-default-target-stack-size default-target-stack-size)
391
392
393;;; Other global variables:
394
395(define verbose-mode #f)
396(define original-program-size #f)
397(define current-program-size 0)
398(define line-number-database-2 #f)
399(define immutable-constants '())
400(define rest-parameters-promoted-to-vector '())
401(define inline-table #f)
402(define inline-table-used #f)
403(define constant-table #f)
404(define constants-used #f)
405(define broken-constant-nodes '())
406(define inline-substitutions-enabled #f)
407(define direct-call-ids '())
408(define first-analysis #t)
409(define foreign-type-table #f)
410(define foreign-variables '())
411(define foreign-lambda-stubs '())
412(define foreign-callback-stubs '())
413(define external-variables '())
414(define loop-lambda-names '())
415(define profile-lambda-list '())
416(define profile-lambda-index 0)
417(define profile-info-vector-name #f)
418(define external-to-pointer '())
419(define error-is-extended-binding #f)
420(define real-name-table #f)
421(define location-pointer-map '())
422(define pending-canonicalizations '())
423(define defconstant-bindings '())
424(define callback-names '())
425(define toplevel-scope #t)
426(define toplevel-lambda-id #f)
427(define csc-control-file #f)
428(define data-declarations '())
429(define file-requirements #f)
430(define postponed-initforms '())
431(define literal-rewrite-hook #f)
432
433
434;;; Initialize globals:
435
436(define (initialize-compiler)
437  (if line-number-database-2
438      (vector-fill! line-number-database-2 '())
439      (set! line-number-database-2 (make-vector line-number-database-size '())) )
440  (if inline-table
441      (vector-fill! inline-table '())
442      (set! inline-table (make-vector inline-table-size '())) )
443  (if constant-table
444      (vector-fill! constant-table '())
445      (set! constant-table (make-vector constant-table-size '())) )
446  (set! profile-info-vector-name (make-random-name 'profile-info))
447  (set! real-name-table (make-vector real-name-table-size '()))
448  (if file-requirements
449      (vector-fill! file-requirements '())
450      (set! file-requirements (make-vector file-requirements-size '())) )
451  (if foreign-type-table
452      (vector-fill! foreign-type-table '())
453      (set! foreign-type-table (make-vector foreign-type-table-size '())) ) )
454
455
456;;; Expand macros and canonicalize expressions:
457
458(define (canonicalize-expression exp)
459
460  (define (find-id id se)               ; ignores macro bindings
461    (cond ((null? se) #f)
462          ((and (eq? id (caar se)) (symbol? (cdar se))) (cdar se))
463          (else (find-id id (cdr se)))))
464
465  (define (lookup id se)
466    (cond ((find-id id se))
467          ((##sys#get id '##core#macro-alias))
468          (else id)))
469
470  (define (macro-alias var se)
471    (let ((alias (gensym var)))
472      (##sys#put! alias '##core#macro-alias (lookup var se))
473      alias) )
474
475  (define (set-real-names! as ns)
476    (for-each (lambda (a n) (set-real-name! a n)) as ns) )
477
478  (define (write-to-string x)
479    (let ([out (open-output-string)])
480      (write x out)
481      (get-output-string out) ) )
482
483  (define (unquotify x se)
484    (if (and (list? x) 
485             (= 2 (length x))
486             (symbol? (car x))
487             (eq? 'quote (lookup (car x) se)))
488        (cadr x)
489        x) )
490
491  (define (resolve-variable x0 se dest)
492    (let ((x (lookup x0 se)))
493      (cond ((not (symbol? x)) x0)      ; syntax?
494            [(and constants-used (##sys#hash-table-ref constant-table x)) 
495             => (lambda (val) (walk (car val) se dest)) ]
496            [(and inline-table-used (##sys#hash-table-ref inline-table x))
497             => (lambda (val) (walk val se dest)) ]
498            [(assq x foreign-variables)
499             => (lambda (fv) 
500                  (let* ([t (second fv)]
501                         [ft (final-foreign-type t)] 
502                         [body `(##core#inline_ref (,(third fv) ,t))] )
503                    (walk
504                     (foreign-type-convert-result
505                      (finish-foreign-result ft body)
506                      t)
507                     se dest)))]
508            [(assq x location-pointer-map)
509             => (lambda (a)
510                  (let* ([t (third a)]
511                         [ft (final-foreign-type t)] 
512                         [body `(##core#inline_loc_ref (,t) ,(second a))] )
513                    (walk
514                     (foreign-type-convert-result
515                      (finish-foreign-result ft body)
516                      t)
517                     se dest))) ]
518            ((not (assq x0 se)) (##sys#alias-global-hook x #f)) ; only if global
519            ((##sys#get x '##core#primitive))
520            (else x))))
521 
522  (define (eval/meta form)
523    (parameterize ((##sys#current-module #f)
524                   (##sys#macro-environment (##sys#meta-macro-environment)))
525      ((##sys#compile-to-closure
526        form
527        '() 
528        (##sys#current-meta-environment))
529       '() ) ))
530
531  (define (walk x se dest)
532    (cond ((symbol? x)
533           (cond ((keyword? x) `(quote ,x))
534                 ((memq x unlikely-variables)
535                  (compiler-warning 
536                   'var
537                   "reference to variable `~s' possibly unintended" x) ))
538           (resolve-variable x se dest))
539          ((not-pair? x)
540           (if (constant? x)
541               `(quote ,x)
542               (syntax-error "illegal atomic form" x)))
543          ((symbol? (car x))
544           (let ([ln (get-line x)])
545             (emit-syntax-trace-info x #f)
546             (unless (proper-list? x)
547               (if ln
548                   (syntax-error (sprintf "(in line ~s) - malformed expression" ln) x)
549                   (syntax-error "malformed expression" x)))
550             (set! ##sys#syntax-error-culprit x)
551             (let* ((name0 (lookup (car x) se))
552                    (name (or (and (symbol? name0) (##sys#get name0 '##core#primitive)) name0))
553                    (xexpanded (##sys#expand x se)))
554               (cond ((not (eq? x xexpanded))
555                      (walk xexpanded se dest))
556                     
557                     [(and inline-table-used (##sys#hash-table-ref inline-table name))
558                      => (lambda (val)
559                           (walk (cons val (cdr x)) se dest)) ]
560                     
561                     [else
562                      (when ln (update-line-number-database! xexpanded ln))
563                      (case name
564                       
565                        ((if)
566                         (##sys#check-syntax 'if x '(if _ _ . #(_)) #f se)
567                         `(if
568                           ,(walk (cadr x) se #f)
569                           ,(walk (caddr x) se #f)
570                           ,(if (null? (cdddr x)) 
571                                '(##core#undefined)
572                                (walk (cadddr x) se #f) ) ) )
573
574                        ((quote syntax)
575                         (##sys#check-syntax name x '(_ _) #f se)
576                         `(quote ,(##sys#strip-syntax (cadr x))))
577
578                        ((##core#check)
579                         (if unsafe
580                             ''#t
581                             (walk (cadr x) se dest) ) )
582
583                        ((##core#immutable)
584                         (let ((c (cadadr x)))
585                           (cond [(assoc c immutable-constants) => cdr]
586                                 [else
587                                  (let ([var (gensym 'c)])
588                                    (set! immutable-constants (alist-cons c var immutable-constants))
589                                    (mark-variable var '##compiler#always-bound)
590                                    (hide-variable var)
591                                    var) ] ) ) )
592
593                        ((##core#undefined ##core#callunit ##core#primitive) x)
594                       
595                        ((##core#inline_ref) 
596                         `(##core#inline_ref 
597                           (,(caadr x) ,(##sys#strip-syntax (cadadr x)))))
598
599                        ((##core#inline_loc_ref)
600                         `(##core#inline_loc_ref 
601                           ,(##sys#strip-syntax (cadr x))
602                           ,(walk (caddr x) se dest)))
603
604                        ((##core#require-for-syntax)
605                         (let ([ids (map eval (cdr x))])
606                           (apply ##sys#require ids)
607                           (##sys#hash-table-update! 
608                            file-requirements 'dynamic/syntax 
609                            (cut lset-union eq? <> ids)
610                            (lambda () ids) )
611                           '(##core#undefined) ) )
612
613                        ((##core#require-extension)
614                         (let ((imp? (caddr x)))
615                           (walk
616                            (let loop ([ids (cadr x)])
617                              (if (null? ids)
618                                  '(##core#undefined)
619                                  (let ([id (car ids)])
620                                    (let-values ([(exp f) (##sys#do-the-right-thing id #t imp?)])
621                                      (unless (or f 
622                                                  (and (symbol? id)
623                                                       (or (feature? id)
624                                                           (##sys#find-extension
625                                                            (##sys#canonicalize-extension-path 
626                                                             id 'require-extension) #f)) ) ) 
627                                        (compiler-warning 
628                                         'ext "extension `~A' is currently not installed" id))
629                                      `(begin ,exp ,(loop (cdr ids))) ) ) ) )
630                            se dest) ) )
631
632                        ((let ##core#let)
633                         (##sys#check-syntax 'let x '(_ #((variable _) 0) . #(_ 1)) #f se)
634                         (let* ((bindings (cadr x))
635                                (vars (unzip1 bindings))
636                                (aliases (map gensym vars))
637                                (se2 (append (map cons vars aliases) se)) )
638                           (set-real-names! aliases vars)
639                           `(let
640                             ,(map (lambda (alias b)
641                                     (list alias (walk (cadr b) se (car b))) )
642                                   aliases bindings)
643                             ,(walk (##sys#canonicalize-body (cddr x) se2)
644                                    se2 dest) ) ) )
645
646                         ((letrec ##core#letrec)
647                          (##sys#check-syntax 'letrec x '(_ #((symbol _) 0) . #(_ 1)))
648                          (let ((bindings (cadr x))
649                                (body (cddr x)) )
650                            (walk
651                             `(##core#let
652                               ,(##sys#map (lambda (b)
653                                             (list (car b) '(##core#undefined))) 
654                                           bindings)
655                               ,@(##sys#map (lambda (b)
656                                              `(##core#set! ,(car b) ,(cadr b))) 
657                                            bindings)
658                               (##core#let () ,@body) )
659                             se dest)))
660
661                        ((lambda ##core#lambda)
662                         (##sys#check-syntax 'lambda x '(_ lambda-list . #(_ 1)) #f se)
663                         (let ((llist (cadr x))
664                               (obody (cddr x)) )
665                           (when (##sys#extended-lambda-list? llist)
666                             (set!-values 
667                              (llist obody) 
668                              (##sys#expand-extended-lambda-list 
669                               llist obody ##sys#error se) ) )
670                           (decompose-lambda-list
671                            llist
672                            (lambda (vars argc rest)
673                              (let* ((aliases (map gensym vars))
674                                     (se2 (append (map cons vars aliases) se))
675                                     (body0 (##sys#canonicalize-body obody se2))
676                                     (body (walk body0 se2 #f))
677                                     (llist2 
678                                      (build-lambda-list
679                                       aliases argc
680                                       (and rest (list-ref aliases (posq rest vars))) ) )
681                                     (l `(lambda ,llist2 ,body)) )
682                                (set-real-names! aliases vars)
683                                (cond ((or (not dest) 
684                                           (assq dest se)) ; not global?
685                                       l)
686                                      ((and (eq? 'lambda (or (lookup name se) name))
687                                            emit-profile 
688                                            (or profiled-procedures
689                                                (variable-mark dest '##compiler#profile)))
690                                       (expand-profile-lambda dest llist2 body) )
691                                      (else
692                                       (if (and (> (length body0) 1)
693                                                (symbol? (car body0))
694                                                (eq? 'begin (or (lookup (car body0) se) (car body0)))
695                                                (let ((x1 (cadr body0)))
696                                                  (or (string? x1)
697                                                      (and (list? x1)
698                                                           (= (length x1) 2)
699                                                           (symbol? (car x1))
700                                                           (eq? 'quote (or (lookup (car x1) se) (car x1)))))))
701                                           (process-lambda-documentation
702                                            dest (cadr body) l) 
703                                           l))))))))
704                       
705                        ((let-syntax)
706                         (##sys#check-syntax 'let-syntax x '(let-syntax #((variable _) 0) . #(_ 1)) #f se)
707                         (let ((se2 (append
708                                     (map (lambda (b)
709                                            (list
710                                             (car b)
711                                             se
712                                             (##sys#er-transformer
713                                              (eval/meta (cadr b)))))
714                                          (cadr x) )
715                                     se) ) )
716                           (walk
717                            (##sys#canonicalize-body (cddr x) se2)
718                            se2
719                            dest) ) )
720                               
721                       ((letrec-syntax)
722                        (##sys#check-syntax 'letrec-syntax x '(letrec-syntax #((variable _) 0) . #(_ 1)) #f se)
723                        (let* ((ms (map (lambda (b)
724                                          (list
725                                           (car b)
726                                           #f
727                                           (##sys#er-transformer
728                                            (eval/meta (cadr b)))))
729                                        (cadr x) ) )
730                               (se2 (append ms se)) )
731                          (for-each
732                           (lambda (sb)
733                             (set-car! (cdr sb) se2) )
734                           ms)
735                          (walk
736                           (##sys#canonicalize-body (cddr x) se2)
737                           se2 dest)))
738                               
739                       ((define-syntax)
740                        (##sys#check-syntax
741                         'define-syntax x
742                         (if (pair? (cadr x))
743                             '(_ (variable . lambda-list) . #(_ 1))
744                             '(_ variable _) )
745                         #f se)
746                        (let* ((var (if (pair? (cadr x)) (caadr x) (cadr x)))
747                               (body (if (pair? (cadr x))
748                                         `(,(macro-alias 'lambda se) ,(cdadr x) ,@(cddr x))
749                                         (caddr x)))
750                               (name (lookup var se)))
751                          (##sys#register-syntax-export name (##sys#current-module) body)
752                          (##sys#extend-macro-environment
753                           name
754                           (##sys#current-environment)
755                           (##sys#er-transformer (eval/meta body)))
756                          (walk
757                           (if ##sys#enable-runtime-macros
758                               `(##sys#extend-macro-environment
759                                 ',var
760                                 (##sys#current-environment)
761                                 (##sys#er-transformer ,body)) ;*** possibly wrong se?
762                               '(##core#undefined) )
763                           se dest)) )
764
765                       ((define-compiled-syntax)
766                        (##sys#check-syntax
767                         'define-compiled-syntax x
768                         (if (pair? (cadr x))
769                             '(_ (variable . lambda-list) . #(_ 1))
770                             '(_ variable _) )
771                         #f se)
772                        (let* ((var (if (pair? (cadr x)) (caadr x) (cadr x)))
773                               (body (if (pair? (cadr x))
774                                         `(,(macro-alias 'lambda se) ,(cdadr x) ,@(cddr x))
775                                         (caddr x)))
776                               (name (lookup var se)))
777                          (##sys#extend-macro-environment
778                           name
779                           (##sys#current-environment)
780                           (##sys#er-transformer (eval/meta body)))
781                          (##sys#register-syntax-export name (##sys#current-module) body)
782                          (walk
783                           `(##sys#extend-macro-environment
784                             ',var
785                             (##sys#current-environment)
786                             (##sys#er-transformer
787                              ,body)) ;*** possibly wrong se?
788                           se dest)))
789
790                       ((##core#module)
791                        (let* ((name (lookup (cadr x) se))
792                               (exports 
793                                (or (eq? #t (caddr x))
794                                    (map (lambda (exp)
795                                           (cond ((symbol? exp) exp)
796                                                 ((and (pair? exp)
797                                                       (let loop ((exp exp))
798                                                         (or (null? exp)
799                                                             (and (symbol? (car exp))
800                                                                  (loop (cdr exp))))))
801                                                  exp)
802                                                 (else
803                                                  (##sys#syntax-error-hook
804                                                   'module
805                                                   "invalid export syntax" exp name))))
806                                         (##sys#strip-syntax (caddr x))))))
807                          (when (##sys#current-module)
808                            (##sys#syntax-error-hook 'module "modules may not be nested" name))
809                          (let-values (((body mreg)
810                                        (parameterize ((##sys#current-module 
811                                                        (##sys#register-module name exports) )
812                                                       (##sys#current-environment '())
813                                                       (##sys#macro-environment ##sys#initial-macro-environment))
814                                            (let loop ((body (cdddr x)) (xs '()))
815                                              (cond
816                                               ((null? body)
817                                                (##sys#finalize-module (##sys#current-module))
818                                                (cond ((assq name import-libraries) =>
819                                                       (lambda (il)
820                                                         (when verbose-mode
821                                                           (print "generating import library " (cdr il) " for module "
822                                                                  name " ..."))
823                                                         (with-output-to-file (cdr il)
824                                                           (lambda ()
825                                                             (for-each
826                                                              pretty-print
827                                                              (##sys#compiled-module-registration
828                                                               (##sys#current-module))))) 
829                                                         (values
830                                                          (reverse xs)
831                                                          '((##core#undefined)))))
832                                                      (else
833                                                       (values
834                                                        (reverse xs)
835                                                        (if standalone-executable
836                                                            '()
837                                                            (##sys#compiled-module-registration (##sys#current-module)))))))
838                                               (else
839                                                (when (and (pair? body)
840                                                           (null? xs)
841                                                           (pair? (car body))
842                                                           (symbol? (caar body))
843                                                           (let ((imp (or (lookup (caar body) se) (caar body))))
844                                                             (and (not (memq imp '(import import-for-syntax)))
845                                                                  ;; can it get any uglier? yes, it can
846                                                                  (not (eq? imp (cdr (assq 'import ##sys#initial-macro-environment))))
847                                                                  (not (eq? imp (cdr (assq 'import-for-syntax ##sys#initial-macro-environment)))))))
848                                                  (compiler-warning 
849                                                   'syntax
850                                                   "module `~s' does not begin with `import' form - maybe unintended?"
851                                                   name))
852                                                (loop 
853                                                 (cdr body)
854                                                 (cons (walk 
855                                                        (car body)
856                                                        (##sys#current-environment)
857                                                        #f)
858                                                       xs))))))))
859                            (canonicalize-begin-body
860                             (append
861                              (parameterize ((##sys#current-module #f)
862                                             (##sys#macro-environment (##sys#meta-macro-environment)))
863                                (map
864                                 (lambda (x)
865                                   (walk x (##sys#current-meta-environment) #f) )
866                                 mreg))
867                              body)))))
868
869                       ((##core#named-lambda)
870                        (walk `(,(macro-alias 'lambda se) ,@(cddr x)) se (cadr x)) )
871
872                       ((##core#loop-lambda)
873                        (let* ([vars (cadr x)]
874                               [obody (cddr x)]
875                               [aliases (map gensym vars)]
876                               (se2 (append (map cons vars aliases) se))
877                               [body 
878                                (walk 
879                                 (##sys#canonicalize-body obody se2)
880                                 se2 #f) ] )
881                          (set-real-names! aliases vars)
882                          `(lambda ,aliases ,body) ) )
883
884                        ((set! ##core#set!) 
885                         (##sys#check-syntax 'set! x '(_ variable _) #f se)
886                         (let* ([var0 (cadr x)]
887                                [var (lookup var0 se)]
888                                [ln (get-line x)]
889                                [val (caddr x)] )
890                           (when (memq var unlikely-variables)
891                             (compiler-warning 
892                              'var
893                              "assignment to variable `~s' possibly unintended"
894                              var))
895                           (cond ((assq var foreign-variables)
896                                   => (lambda (fv)
897                                        (let ([type (second fv)]
898                                              [tmp (gensym)] )
899                                          (walk
900                                           `(let ([,tmp ,(foreign-type-convert-argument val type)])
901                                              (##core#inline_update 
902                                               (,(third fv) ,type)
903                                               ,(foreign-type-check tmp type) ) )
904                                           se #f))))
905                                 ((assq var location-pointer-map)
906                                  => (lambda (a)
907                                       (let* ([type (third a)]
908                                              [tmp (gensym)] )
909                                         (walk
910                                          `(let ([,tmp ,(foreign-type-convert-argument val type)])
911                                             (##core#inline_loc_update 
912                                              (,type)
913                                              ,(second a)
914                                              ,(foreign-type-check tmp type) ) )
915                                          se #f))))
916                                 (else
917                                  (when (eq? var var0) ; global?
918                                    (set! var (##sys#alias-global-hook var #t))
919                                    (when safe-globals-flag
920                                      (mark-variable var '##compiler#always-bound-to-procedure)
921                                      (mark-variable var '##compiler#always-bound))
922                                    (when (macro? var)
923                                      (compiler-warning 
924                                       'var "assigned global variable `~S' is a macro ~A"
925                                       var
926                                       (if ln (sprintf "in line ~S" ln) "") )
927                                      (when undefine-shadowed-macros (undefine-macro! var) ) ) )
928                                  (when (keyword? var)
929                                    (compiler-warning 'syntax "assignment to keyword `~S'" var) )
930                                  (when (pair? var) ; macro
931                                    (syntax-error
932                                     'set! "assignment to syntactic identifier" var))
933                                  `(set! ,var ,(walk val se var0))))))
934
935                        ((##core#inline)
936                         `(##core#inline ,(unquotify (cadr x) se) ,@(mapwalk (cddr x) se)))
937
938                        ((##core#inline_allocate)
939                         `(##core#inline_allocate 
940                           ,(map (cut unquotify <> se) (second x))
941                           ,@(mapwalk (cddr x) se)))
942
943                        ((##core#inline_update)
944                         `(##core#inline_update ,(cadr x) ,(walk (caddr x) se #f)) )
945
946                        ((##core#inline_loc_update)
947                         `(##core#inline_loc_update 
948                           ,(cadr x) 
949                           ,(walk (caddr x) se #f)
950                           ,(walk (cadddr x) se #f)) )
951
952                        ((##core#compiletimetoo ##core#elaborationtimetoo)
953                         (let ((exp (cadr x)))
954                           (eval/meta exp)
955                           (walk exp se dest) ) )
956
957                        ((##core#compiletimeonly ##core#elaborationtimeonly)
958                         (eval/meta (cadr x))
959                         '(##core#undefined) )
960
961                        ((begin) 
962                         (##sys#check-syntax 'begin x '(begin . #(_ 0)) #f se)
963                         (if (pair? (cdr x))
964                             (canonicalize-begin-body
965                              (let fold ([xs (cdr x)])
966                                (let ([x (car xs)]
967                                      [r (cdr xs)] )
968                                  (if (null? r)
969                                      (list (walk x se dest))
970                                      (cons (walk x se #f) (fold r)) ) ) ) )
971                             '(##core#undefined) ) )
972
973                        ((foreign-lambda)
974                         (walk (expand-foreign-lambda x) se dest) )
975
976                        ((foreign-safe-lambda)
977                         (walk (expand-foreign-callback-lambda x) se dest) )
978
979                        ((foreign-lambda*)
980                         (walk (expand-foreign-lambda* x) se dest) )
981
982                        ((foreign-safe-lambda*)
983                         (walk (expand-foreign-callback-lambda* x) se dest) )
984
985                        ((foreign-primitive)
986                         (walk (expand-foreign-primitive x) se dest) )
987
988                        ((define-foreign-variable)
989                         (let* ([var (##sys#strip-syntax (second x))]
990                                [type (third x)]
991                                [name (if (pair? (cdddr x))
992                                          (fourth x)
993                                          (symbol->string var) ) ] )
994                           (set! foreign-variables
995                             (cons (list var type
996                                         (if (string? name)
997                                             name 
998                                             (symbol->string name)))
999                                   foreign-variables))
1000                           '(##core#undefined) ) )
1001
1002                        ((define-foreign-type)
1003                         (let ([name (second x)]
1004                               [type (third x)] 
1005                               [conv (cdddr x)] )
1006                           (cond [(pair? conv)
1007                                  (let ([arg (gensym)]
1008                                        [ret (gensym)] )
1009                                    (##sys#hash-table-set! foreign-type-table name (vector type arg ret))
1010                                    (mark-variable arg '##compiler#always-bound)
1011                                    (mark-variable ret '##compiler#always-bound)
1012                                    (hide-variable arg)
1013                                    (hide-variable ret)
1014                                    (walk
1015                                     `(,(macro-alias 'begin se)
1016                                        (define ,arg ,(first conv))
1017                                        (define
1018                                         ,ret 
1019                                         ,(if (pair? (cdr conv)) (second conv) '##sys#values)) ) 
1020                                     se dest) ) ]
1021                                 [else
1022                                  (##sys#hash-table-set! foreign-type-table name type)
1023                                  '(##core#undefined) ] ) ) )
1024
1025                        ((define-external-variable)
1026                         (let* ([sym (second x)]
1027                                [name (symbol->string sym)]
1028                                [type (third x)] 
1029                                [exported (fourth x)]
1030                                [rname (make-random-name)] )
1031                           (unless exported (set! name (symbol->string (fifth x))))
1032                           (set! external-variables (cons (vector name type exported) external-variables))
1033                           (set! foreign-variables
1034                             (cons (list rname 'c-pointer (string-append "&" name))
1035                                   foreign-variables) )
1036                           (set! external-to-pointer (alist-cons sym rname external-to-pointer))
1037                           '(##core#undefined) ) )
1038
1039                        ((##core#let-location)
1040                         (let* ([var (second x)]
1041                                [type (third x)]
1042                                [alias (gensym)]
1043                                [store (gensym)] 
1044                                [init (and (pair? (cddddr x)) (fourth x))] )
1045                           (set-real-name! alias var)
1046                           (set! location-pointer-map
1047                             (cons (list alias store type) location-pointer-map) )
1048                           (walk
1049                            `(let (,(let ([size (words (estimate-foreign-result-location-size type))])
1050                                      ;; Add 2 words: 1 for the header, 1 for double-alignment:
1051                                      ;; Note: C_a_i_bytevector takes number of words, not bytes
1052                                      (list
1053                                       store
1054                                       `(##core#inline_allocate
1055                                         ("C_a_i_bytevector" ,(+ 2 size))
1056                                         ',size)) ) )
1057                               (,(macro-alias 'begin se)
1058                                ,@(if init
1059                                      `((##core#set! ,alias ,init))
1060                                      '() )
1061                                ,(if init (fifth x) (fourth x)) ) )
1062                            (alist-cons var alias se)
1063                            dest) ) )
1064
1065                        ((##core#define-inline)
1066                         (let* ((name (second x))
1067                                (val `(##core#lambda ,@(cdaddr x))))
1068                             (##sys#hash-table-set! inline-table name val)
1069                             (set! inline-table-used #t)
1070                             '(##core#undefined)))
1071
1072                        ((define-constant)
1073                         (let* ([name (second x)]
1074                                [valexp (third x)]
1075                                [val (handle-exceptions ex
1076                                         ;; could show line number here
1077                                         (quit "error in constant evaluation of ~S for named constant ~S" 
1078                                               valexp name)
1079                                       (if (collapsable-literal? valexp)
1080                                           valexp
1081                                           (eval
1082                                            `(,(macro-alias 'let se)
1083                                              ,defconstant-bindings ,valexp)) ) ) ] )
1084                           (set! constants-used #t)
1085                           (set! defconstant-bindings (cons (list name `',val) defconstant-bindings))
1086                           (cond [(collapsable-literal? val)
1087                                  (##sys#hash-table-set! constant-table name (list val))
1088                                  '(##core#undefined) ]
1089                                 [else
1090                                  (let ([var (gensym "constant")])
1091                                    (##sys#hash-table-set! constant-table name (list var))
1092                                    (hide-variable var)
1093                                    (mark-variable var '##compiler#constant)
1094                                    (mark-variable var '##compiler#always-bound)
1095                                    (walk `(define ,var ',val) se #f) ) ] ) ) )
1096
1097                        ((##core#declare)
1098                         (walk
1099                          `(,(macro-alias 'begin se)
1100                             ,@(map (lambda (d)
1101                                      (process-declaration d se))
1102                                    (cdr x) ) )
1103                          '() #f) )
1104             
1105                        ((##core#foreign-callback-wrapper)
1106                         (let-values ([(args lam) (split-at (cdr x) 4)])
1107                           (let* ([lam (car lam)]
1108                                  [name (cadr (first args))]
1109                                  [rtype (cadr (third args))]
1110                                  [atypes (cadr (fourth args))]
1111                                  [vars (second lam)] )
1112                             (if (valid-c-identifier? name)
1113                                 (set! callback-names (cons name callback-names))
1114                                 (quit "name `~S' of external definition is not a valid C identifier"
1115                                       name) )
1116                             (when (or (not (proper-list? vars)) 
1117                                       (not (proper-list? atypes))
1118                                       (not (= (length vars) (length atypes))) )
1119                               (syntax-error 
1120                                "non-matching or invalid argument list to foreign callback-wrapper"
1121                                vars atypes) )
1122                             `(##core#foreign-callback-wrapper
1123                               ,@(mapwalk args se)
1124                               ,(walk `(##core#lambda
1125                                        ,vars
1126                                        (,(macro-alias 'let se)
1127                                         ,(let loop ([vars vars] [types atypes])
1128                                            (if (null? vars)
1129                                                '()
1130                                                (let ([var (car vars)]
1131                                                      [type (car types)] )
1132                                                  (cons
1133                                                   (list
1134                                                    var
1135                                                    (foreign-type-convert-result
1136                                                     (finish-foreign-result (final-foreign-type type) var)
1137                                                     type) )
1138                                                   (loop (cdr vars) (cdr types)) ) ) ) )
1139                                         ,(foreign-type-convert-argument
1140                                           `(,(macro-alias 'let se)
1141                                             ()
1142                                             ,@(cond
1143                                                ((member
1144                                                  rtype
1145                                                  '((const nonnull-c-string) 
1146                                                    (const nonnull-unsigned-c-string)
1147                                                    nonnull-unsigned-c-string
1148                                                    nonnull-c-string))
1149                                                 `((##sys#make-c-string
1150                                                    (,(macro-alias 'let se)
1151                                                     () ,@(cddr lam)))))
1152                                                ((member
1153                                                  rtype
1154                                                  '((const c-string*)
1155                                                    (const unsigned-c-string*)
1156                                                    unsigned-c-string*
1157                                                    c-string*
1158                                                    c-string-list
1159                                                    c-string-list*))
1160                                                 (syntax-error
1161                                                  "not a valid result type for callback procedures"
1162                                                  rtype
1163                                                  name) )
1164                                                ((member
1165                                                  rtype
1166                                                  '(c-string
1167                                                    (const unsigned-c-string)
1168                                                    unsigned-c-string
1169                                                    (const c-string)) )
1170                                                 `((,(macro-alias 'let se)
1171                                                    ((r (,(macro-alias 'let se)
1172                                                         () ,@(cddr lam))))
1173                                                    (,(macro-alias 'and se)
1174                                                     r 
1175                                                     (##sys#make-c-string r)) ) ) )
1176                                                (else (cddr lam)) ) )
1177                                           rtype) ) )
1178                                      se #f) ) ) ) )
1179
1180                        (else
1181                         (let ([handle-call
1182                                (lambda ()
1183                                  (let* ([x2 (mapwalk x se)]
1184                                         [head2 (car x2)]
1185                                         [old (##sys#hash-table-ref line-number-database-2 head2)] )
1186                                    (when ln
1187                                      (##sys#hash-table-set!
1188                                       line-number-database-2
1189                                       head2
1190                                       (cons name (alist-cons x2 ln (if old (cdr old) '()))) ) )
1191                                    x2) ) ] )
1192
1193                           (cond [(eq? 'location name)
1194                                  (##sys#check-syntax 'location x '(location _) #f se)
1195                                  (let ([sym (cadr x)])
1196                                    (if (symbol? sym)
1197                                        (cond [(assq (lookup sym se) location-pointer-map)
1198                                               => (lambda (a)
1199                                                    (walk
1200                                                     `(##sys#make-locative ,(second a) 0 #f 'location)
1201                                                     se #f) ) ]
1202                                              [(assq sym external-to-pointer) 
1203                                               => (lambda (a) (walk (cdr a) se #f)) ]
1204                                              [(memq sym callback-names)
1205                                               `(##core#inline_ref (,(symbol->string sym) c-pointer)) ]
1206                                              [else
1207                                               (walk `(##sys#make-locative ,sym 0 #f 'location) se #f) ] )
1208                                        (walk `(##sys#make-locative ,sym 0 #f 'location) se #f) ) ) ]
1209                                 
1210                                 [else (handle-call)] ) ) ) ) ] ) ) ) )
1211
1212          ((not (proper-list? x))
1213           (syntax-error "malformed expression" x) )
1214
1215          ((constant? (car x))
1216           (emit-syntax-trace-info x #f)
1217           (compiler-warning 'syntax "literal in operator position: ~S" x) 
1218           (mapwalk x se) )
1219
1220          ((and (pair? (car x))
1221                (symbol? (caar x))
1222                (eq? 'lambda (or (lookup (caar x) se) (caar x))))
1223           (let ([lexp (car x)]
1224                 [args (cdr x)] )
1225             (emit-syntax-trace-info x #f)
1226             (##sys#check-syntax 'lambda lexp '(lambda lambda-list . #(_ 1)) #f se)
1227             (let ([llist (cadr lexp)])
1228               (if (and (proper-list? llist) (= (length llist) (length args)))
1229                   (walk `(,(macro-alias 'let se)
1230                           ,(map list llist args) ,@(cddr lexp)) se dest)
1231                   (let ((var (gensym 't)))
1232                     (walk
1233                      `(,(macro-alias 'let se)
1234                        ((,var ,(car x)))
1235                        (,var ,@(cdr x)) )
1236                      se dest) ) ) ) ) )
1237         
1238          (else
1239           (emit-syntax-trace-info x #f)
1240           (mapwalk x se)) ) )
1241 
1242  (define (mapwalk xs se)
1243    (map (lambda (x) (walk x se #f)) xs) )
1244
1245  (when (memq 'c debugging-chicken) (newline) (pretty-print exp))
1246  (##sys#clear-trace-buffer)
1247  ;; Process visited definitions and main expression:
1248  (walk 
1249   `(,(macro-alias 'begin '())
1250      ,@(let ([p (reverse pending-canonicalizations)])
1251          (set! pending-canonicalizations '())
1252          p)
1253      ,(begin
1254         (set! extended-bindings (append internal-bindings extended-bindings))
1255         exp) )
1256   (##sys#current-environment)
1257   #f) )
1258
1259
1260(define (process-declaration spec se)   ; se unused in the moment
1261  (define (check-decl spec minlen . maxlen)
1262    (let ([n (length (cdr spec))])
1263      (if (or (< n minlen) (> n (optional maxlen 99999)))
1264          (syntax-error "invalid declaration" spec) ) ) ) 
1265  (define (stripa x)                    ; global aliasing
1266    (##sys#strip-syntax x se #t))
1267  (define (strip x)                     ; raw symbol
1268    (##sys#strip-syntax x se))
1269  (call-with-current-continuation
1270   (lambda (return)
1271     (unless (pair? spec)
1272       (syntax-error "invalid declaration specification" spec) )
1273     ;(pp `(DECLARE: ,(strip spec)))
1274     (case (##sys#strip-syntax (car spec)) ; no global aliasing
1275       ((uses)
1276        (let ((us (strip (cdr spec))))
1277          (apply register-feature! us)
1278          (when (pair? us)
1279            (##sys#hash-table-update! 
1280             file-requirements 'static
1281             (cut lset-union eq? us <>) 
1282             (lambda () us))
1283            (let ((units (map (lambda (u) (string->c-identifier (stringify u))) us)))
1284              (set! used-units (append used-units units)) ) ) ) )
1285       ((unit)
1286        (check-decl spec 1 1)
1287        (let* ([u (strip (cadr spec))]
1288               [un (string->c-identifier (stringify u))] )
1289          (when (and unit-name (not (string=? unit-name un)))
1290            (compiler-warning 'usage "unit was already given a name (new name is ignored)") )
1291          (set! unit-name un) ) )
1292       ((standard-bindings)
1293        (if (null? (cdr spec))
1294            (set! standard-bindings default-standard-bindings)
1295            (set! standard-bindings (append (stripa (cdr spec)) standard-bindings)) ) )
1296       ((extended-bindings)
1297        (if (null? (cdr spec))
1298            (set! extended-bindings default-extended-bindings)
1299            (set! extended-bindings (append (stripa (cdr spec)) extended-bindings)) ) )
1300       ((usual-integrations)     
1301        (cond [(null? (cdr spec))
1302               (set! standard-bindings default-standard-bindings)
1303               (set! extended-bindings default-extended-bindings) ]
1304              [else
1305               (let ([syms (stripa (cdr spec))])
1306                 (set! standard-bindings (lset-intersection eq? syms default-standard-bindings))
1307                 (set! extended-bindings (lset-intersection eq? syms default-extended-bindings)) ) ] ) )
1308       ((number-type)
1309        (check-decl spec 1 1)
1310        (set! number-type (strip (cadr spec))))
1311       ((fixnum fixnum-arithmetic) (set! number-type 'fixnum))
1312       ((generic) (set! number-type 'generic))
1313       ((unsafe) (set! unsafe #t))
1314       ((safe) (set! unsafe #f))
1315       ((no-bound-checks) (set! no-bound-checks #t))
1316       ((no-argc-checks) (set! no-argc-checks #t))
1317       ((no-procedure-checks) (set! no-procedure-checks #t))
1318       ((interrupts-enabled) (set! insert-timer-checks #t))
1319       ((disable-interrupts) (set! insert-timer-checks #f))
1320       ((disable-warning)
1321        (set! disabled-warnings
1322          (append (strip (cdr spec)) disabled-warnings)))
1323       ((always-bound) 
1324        (for-each (cut mark-variable <> '##compiler#always-bound) (stripa (cdr spec))))
1325       ((safe-globals) (set! safe-globals-flag #t))
1326       ((no-procedure-checks-for-usual-bindings)
1327        (for-each
1328         (cut mark-variable <> '##compiler#always-bound-to-procedure)
1329         (append default-standard-bindings default-extended-bindings))
1330        (for-each
1331         (cut mark-variable <> '##compiler#always-bound)
1332         (append default-standard-bindings default-extended-bindings)))
1333       ((bound-to-procedure)
1334        (let ((vars (stripa (cdr spec))))
1335          (for-each (cut mark-variable <> '##compiler#always-bound-to-procedure) vars)
1336          (for-each (cut mark-variable <> '##compiler#always-bound) vars)))
1337       ((foreign-declare)
1338        (let ([fds (cdr spec)])
1339          (if (every string? fds)
1340              (set! foreign-declarations (append foreign-declarations fds))
1341              (syntax-error "invalid declaration" spec) ) ) )
1342       ((c-options)
1343        (emit-control-file-item `(c-options ,@(strip (cdr spec)))) )
1344       ((link-options)
1345        (emit-control-file-item `(link-options ,@(strip (cdr spec))) ) )
1346       ((post-process)
1347        (emit-control-file-item
1348         (let ([file (pathname-strip-extension source-filename)])
1349           `(post-process ,@(map (cut string-substitute "\\$@" file <>) (cdr spec))) ) ) )
1350       ((block) (set! block-compilation #t))
1351       ((separate) (set! block-compilation #f))
1352       ((keep-shadowed-macros) (set! undefine-shadowed-macros #f))
1353       ((unused)
1354        (for-each (cut mark-variable <> '##compiler#unused) (stripa (cdr spec))))
1355       ((not)
1356        (check-decl spec 1)
1357        (case (##sys#strip-syntax (second spec)) ; strip all
1358          [(standard-bindings)
1359           (if (null? (cddr spec))
1360               (set! standard-bindings '())
1361               (set! standard-bindings
1362                 (lset-difference eq? default-standard-bindings
1363                                  (stripa (cddr spec))))) ]
1364          [(extended-bindings)
1365           (if (null? (cddr spec))
1366               (set! extended-bindings '())
1367               (set! extended-bindings 
1368                 (lset-difference eq? default-extended-bindings
1369                                  (stripa (cddr spec))) )) ]
1370          [(inline)
1371           (if (null? (cddr spec))
1372               (set! inline-locally #f)
1373               (for-each
1374                (cut mark-variable <> '##compiler#inline 'no)
1375                (stripa (cddr spec)))) ]
1376          [(usual-integrations)     
1377           (cond [(null? (cddr spec))
1378                  (set! standard-bindings '())
1379                  (set! extended-bindings '()) ]
1380                 [else
1381                  (let ([syms (stripa (cddr spec))])
1382                    (set! standard-bindings (lset-difference eq? default-standard-bindings syms))
1383                    (set! extended-bindings (lset-difference eq? default-extended-bindings syms)) ) ] ) ]
1384          ((inline-global)
1385           (if (null? (cddr spec))
1386               (set! inline-globally #f)
1387               (for-each
1388                (cut mark-variable <> '##compiler#inline-global 'no)
1389                (stripa (cddr spec)))))
1390          [else
1391           (check-decl spec 1 1)
1392           (let ((id (strip (cadr spec))))
1393             (case id
1394               [(interrupts-enabled) (set! insert-timer-checks #f)]
1395               [(safe) (set! unsafe #t)]
1396               [else (compiler-warning 'syntax "illegal declaration specifier `~s'" id)]))]))
1397       ((compile-syntax 
1398         run-time-macros)               ; DEPRECATED
1399        (set! ##sys#enable-runtime-macros #t))
1400       ((block-global hide) 
1401        (let ([syms (stripa (cdr spec))])
1402          (if (null? syms)
1403              (set! block-compilation #t)
1404              (for-each hide-variable syms))))
1405       ((export) 
1406        (let ((syms (stripa (cdr spec))))
1407          (for-each export-variable syms)))
1408       ((emit-external-prototypes-first)
1409        (set! external-protos-first #t) )
1410       ((lambda-lift) (set! do-lambda-lifting #t))
1411       ((inline)
1412        (if (null? (cdr spec))
1413            (set! inline-locally #t)
1414            (for-each
1415             (cut mark-variable <> '##compiler#inline 'yes)
1416             (stripa (cdr spec)))))
1417       ((inline-limit)
1418        (check-decl spec 1 1)
1419        (let ([n (cadr spec)])
1420          (if (number? n)
1421              (set! inline-max-size n)
1422              (compiler-warning 
1423               'syntax
1424               "invalid argument to `inline-limit' declaration: ~s" spec) ) ) )
1425       ((constant)
1426        (let ((syms (cdr spec)))
1427          (if (every symbol? syms)
1428              (set! constant-declarations (append syms constant-declarations))
1429              (quit "invalid arguments to `constant' declaration: ~S" spec)) ) )
1430       ((emit-import-library)
1431        (set! import-libraries
1432          (append
1433           import-libraries
1434           (map (lambda (il)
1435                  (cond ((symbol? il)
1436                         (cons il (string-append (symbol->string il) ".import.scm")) )
1437                        ((and (list? il) (= 2 (length il))
1438                              (symbol? (car il)) (string (cadr il)))
1439                         (cons (car il) (cadr il))) 
1440                        (else
1441                         (compiler-warning 
1442                          'syntax
1443                          "invalid import-library specification: ~s" il))))
1444                (strip (cdr spec))))))
1445       ((profile)
1446        (if (null? (cdr spec))
1447            (set! profiled-procedures #t)
1448            (for-each
1449             (cut mark-variable <> '##compiler#profile)
1450             (stripa (cdr spec)))))
1451       ((local)
1452        (cond ((null? (cdr spec))
1453               (set! local-definitions #t) )
1454              (else
1455               (for-each
1456                (cut mark-variable <> '##compiler#local)
1457                (stripa (cdr spec))))))
1458       ((inline-global)
1459        (if (null? (cdr spec))
1460            (set! inline-globally #t)
1461            (for-each
1462             (cut mark-variable <> '##compiler#inline-global 'yes)
1463             (stripa (cdr spec)))))
1464       (else (compiler-warning 'syntax "illegal declaration specifier `~s'" spec)) )
1465     '(##core#undefined) ) ) )
1466
1467
1468;;; Expand "foreign-lambda"/"foreign-callback-lambda" forms and add item to stub-list:
1469
1470(define-record-type foreign-stub
1471  (make-foreign-stub id return-type name argument-types argument-names body cps callback)
1472  foreign-stub?
1473  (id foreign-stub-id)                  ; symbol
1474  (return-type foreign-stub-return-type)          ; type-specifier
1475  (name foreign-stub-name)                        ; string or #f
1476  (argument-types foreign-stub-argument-types) ; (type-specifier...)
1477  (argument-names foreign-stub-argument-names) ; #f or (symbol ...)
1478  (body foreign-stub-body)                     ; #f or string
1479  (cps foreign-stub-cps)                       ; boolean
1480  (callback foreign-stub-callback))            ; boolean
1481
1482(define (create-foreign-stub rtype sname argtypes argnames body callback cps)
1483  (let* ([params (list-tabulate (length argtypes) (lambda (x) (gensym 'a)))]
1484         [f-id (gensym 'stub)]
1485         [bufvar (gensym)] 
1486         [rsize (estimate-foreign-result-size rtype)] )
1487    (set-real-name! f-id #t)
1488    (set! foreign-lambda-stubs 
1489      (cons (make-foreign-stub f-id rtype sname argtypes argnames body cps callback)
1490            foreign-lambda-stubs) )
1491    (let ([rsize (if callback (+ rsize 24) rsize)] ; 24 -> has to hold cons on 64-bit platforms!
1492          [head (if cps
1493                    `((##core#primitive ,f-id))
1494                    `(##core#inline ,f-id) ) ]
1495          [rest (map (lambda (p t) (foreign-type-check (foreign-type-convert-argument p t) t)) params argtypes)] )
1496      `(lambda ,params
1497         ;; Do minor GC (if callback) to make room on stack:
1498         ,@(if callback '((##sys#gc #f)) '())
1499         ,(if (zero? rsize) 
1500              (foreign-type-convert-result (append head (cons '(##core#undefined) rest)) rtype)
1501              (let ([ft (final-foreign-type rtype)]
1502                    [ws (words rsize)] )
1503                `(let ([,bufvar (##core#inline_allocate ("C_a_i_bytevector" ,(+ 2 ws)) ',ws)])
1504                   ,(foreign-type-convert-result
1505                     (finish-foreign-result ft (append head (cons bufvar rest)))
1506                     rtype) ) ) ) ) ) ) )
1507
1508(define (expand-foreign-lambda exp)
1509  (let* ([name (third exp)]
1510         [sname (cond ((symbol? name) (symbol->string name))
1511                      ((string? name) name)
1512                      (else (quit "name `~s' of foreign procedure has wrong type" name)) ) ]
1513         [rtype (second exp)]
1514         [argtypes (cdddr exp)] )
1515    (create-foreign-stub rtype sname argtypes #f #f #f #f) ) )
1516
1517(define (expand-foreign-callback-lambda exp)
1518  (let* ([name (third exp)]
1519         [sname (cond ((symbol? name) (symbol->string name))
1520                      ((string? name) name)
1521                      (else (quit "name `~s' of foreign procedure has wrong type" name)) ) ]
1522         [rtype (second exp)]
1523         [argtypes (cdddr exp)] )
1524    (create-foreign-stub rtype sname argtypes #f #f #t #t) ) )
1525
1526(define (expand-foreign-lambda* exp)
1527  (let* ([rtype (second exp)]
1528         [args (third exp)]
1529         [body (apply string-append (cdddr exp))]
1530         [argtypes (map car args)]
1531         [argnames (map cadr args)] )
1532    (create-foreign-stub rtype #f argtypes argnames body #f #f) ) )
1533
1534(define (expand-foreign-callback-lambda* exp)
1535  (let* ([rtype (second exp)]
1536         [args (third exp)]
1537         [body (apply string-append (cdddr exp))]
1538         [argtypes (map car args)]
1539         [argnames (map cadr args)] )
1540    (create-foreign-stub rtype #f argtypes argnames body #t #t) ) )
1541
1542(define (expand-foreign-primitive exp)
1543  (let* ([hasrtype (and (pair? (cddr exp)) (not (string? (caddr exp))))]
1544         [rtype (if hasrtype (second exp) 'void)]
1545         [args (if hasrtype (third exp) (second exp))]
1546         [body (apply string-append (if hasrtype (cdddr exp) (cddr exp)))]
1547         [argtypes (map car args)]
1548         [argnames (map cadr args)] )
1549    (create-foreign-stub rtype #f argtypes argnames body #f #t) ) )
1550
1551
1552;;; Traverse expression and update line-number db with all contained calls:
1553
1554(define (update-line-number-database! exp ln)
1555  (define (mapupdate xs)
1556    (let loop ((xs xs))
1557      (if (pair? xs)
1558          (begin
1559            (walk (car xs))
1560            (loop (cdr xs)) ) ) ) )
1561  (define (walk x)
1562    (cond ((not-pair? x))
1563          ((symbol? (car x))
1564           (let* ((name (car x))
1565                  (old (or (##sys#hash-table-ref ##sys#line-number-database name) '())) )
1566             (if (not (assq x old))
1567                 (##sys#hash-table-set! ##sys#line-number-database name (alist-cons x ln old)) )
1568             (mapupdate (cdr x)) ) )
1569          (else (mapupdate x)) ) )
1570  (walk exp) )
1571
1572
1573;;; Convert canonicalized node-graph into continuation-passing-style:
1574
1575(define (perform-cps-conversion node)
1576
1577  (define (cps-lambda id llist subs k)
1578    (let ([t1 (gensym 'k)])
1579      (k (make-node
1580          '##core#lambda (list id #t (cons t1 llist) 0)
1581          (list (walk (car subs)
1582                      (lambda (r) 
1583                        (make-node '##core#call '(#t) (list (varnode t1) r)) ) ) ) ) ) ) )
1584 
1585  (define (walk n k)
1586    (let ((subs (node-subexpressions n))
1587          (params (node-parameters n)) 
1588          (class (node-class n)) )
1589      (case (node-class n)
1590        ((##core#variable quote ##core#undefined ##core#primitive ##core#global-ref) (k n))
1591        ((if) (let* ((t1 (gensym 'k))
1592                     (t2 (gensym 'r))
1593                     (k1 (lambda (r) (make-node '##core#call '(#t) (list (varnode t1) r)))) )
1594                (make-node 'let
1595                           (list t1)
1596                           (list (make-node '##core#lambda (list (gensym-f-id) #f (list t2) 0) 
1597                                            (list (k (varnode t2))) )
1598                                 (walk (car subs)
1599                                       (lambda (v)
1600                                         (make-node 'if '()
1601                                                    (list v
1602                                                          (walk (cadr subs) k1)
1603                                                          (walk (caddr subs) k1) ) ) ) ) ) ) ) )
1604        ((let)
1605         (let loop ((vars params) (vals subs))
1606           (if (null? vars)
1607               (walk (car vals) k)
1608               (walk (car vals)
1609                     (lambda (r) 
1610                       (make-node 'let
1611                                  (list (car vars))
1612                                  (list r (loop (cdr vars) (cdr vals))) ) ) ) ) ) )
1613        ((lambda ##core#lambda) (cps-lambda (gensym-f-id) (first params) subs k))
1614        ((set!) (let ((t1 (gensym 't)))
1615                  (walk (car subs)
1616                        (lambda (r)
1617                          (make-node 'let (list t1)
1618                                     (list (make-node 'set! (list (first params)) (list r))
1619                                           (k (varnode t1)) ) ) ) ) ) )
1620        ((##core#foreign-callback-wrapper)
1621         (let ([id (gensym-f-id)]
1622               [lam (first subs)] )
1623           (set! foreign-callback-stubs
1624             (cons (apply make-foreign-callback-stub id params) foreign-callback-stubs) )
1625           (cps-lambda id (first (node-parameters lam)) (node-subexpressions lam) k) ) )
1626        ((##core#inline ##core#inline_allocate ##core#inline_ref ##core#inline_update ##core#inline_loc_ref 
1627                        ##core#inline_loc_update)
1628         (walk-inline-call class params subs k) )
1629        ((##core#call) (walk-call (car subs) (cdr subs) params k))
1630        ((##core#callunit) (walk-call-unit (first params) k))
1631        (else (bomb "bad node (cps)")) ) ) )
1632 
1633  (define (walk-call fn args params k)
1634    (let ((t0 (gensym 'k))
1635          (t3 (gensym 'r)) )
1636      (make-node
1637       'let (list t0)
1638       (list (make-node '##core#lambda (list (gensym-f-id) #f (list t3) 0) 
1639                        (list (k (varnode t3))) )
1640             (walk-arguments
1641              args
1642              (lambda (vars)
1643                (walk fn
1644                      (lambda (r) 
1645                        (make-node '##core#call params (cons* r (varnode t0) vars) ) ) ) ) ) ) ) ) )
1646 
1647  (define (walk-call-unit unitname k)
1648    (let ((t0 (gensym 'k))
1649          (t3 (gensym 'r)) )
1650      (make-node
1651       'let (list t0)
1652       (list (make-node '##core#lambda (list (gensym-f-id) #f (list t3) 0) 
1653                        (list (k (varnode t3))) )
1654             (make-node '##core#callunit (list unitname)
1655                        (list (varnode t0)) ) ) ) ) )
1656
1657  (define (walk-inline-call class op args k)
1658    (walk-arguments
1659     args
1660     (lambda (vars)
1661       (k (make-node class op vars)) ) ) )
1662 
1663  (define (walk-arguments args wk)
1664    (let loop ((args args) (vars '()))
1665      (cond ((null? args) (wk (reverse vars)))
1666            ((atomic? (car args))
1667             (loop (cdr args) (cons (car args) vars)) )
1668            (else
1669             (let ((t1 (gensym 'a)))
1670               (walk (car args)
1671                     (lambda (r)
1672                       (make-node 'let (list t1)
1673                                  (list r
1674                                        (loop (cdr args) 
1675                                              (cons (varnode t1) vars) ) ) ) ) ) ) ) ) ) )
1676 
1677  (define (atomic? n)
1678    (let ((class (node-class n)))
1679      (or (memq class '(quote ##core#variable ##core#undefined ##core#global-ref))
1680          (and (memq class '(##core#inline ##core#inline_allocate ##core#inline_ref ##core#inline_update
1681                                           ##core#inline_loc_ref ##core#inline_loc_update))
1682               (every atomic? (node-subexpressions n)) ) ) ) )
1683 
1684  (walk node values) )
1685
1686
1687;;; Foreign callback stub type:
1688
1689(define-record-type foreign-callback-stub
1690  (make-foreign-callback-stub id name qualifiers return-type argument-types)
1691  foreign-callback-stub?
1692  (id foreign-callback-stub-id)         ; symbol
1693  (name foreign-callback-stub-name)     ; string
1694  (qualifiers foreign-callback-stub-qualifiers) ; string
1695  (return-type foreign-callback-stub-return-type) ; type-specifier
1696  (argument-types foreign-callback-stub-argument-types)) ; (type-specifier ...)
1697
1698
1699;;; Perform source-code analysis:
1700
1701(define (analyze-expression node)
1702  (let ([db (make-vector analysis-database-size '())]
1703        [explicitly-consed '()] )
1704
1705    (define (grow n)
1706      (set! current-program-size (+ current-program-size n)) )
1707
1708    (define (walk n env localenv here call)
1709      (let ((subs (node-subexpressions n))
1710            (params (node-parameters n)) 
1711            (class (node-class n)) )
1712        (grow 1)
1713        (case class
1714          ((quote ##core#undefined ##core#proc) #f)
1715
1716          ((##core#variable)
1717           (let ((var (first params)))
1718             (ref var n)
1719             (unless (memq var localenv)
1720               (grow 1)
1721               (cond ((memq var env) (put! db var 'captured #t))
1722                     ((not (get db var 'global)) 
1723                      (put! db var 'global #t) ) ) ) ) )
1724         
1725          ((##core#global-ref)
1726           (let ((var (first params)))
1727             (ref var n)
1728             (grow 1)
1729             (put! db var 'global #t) ) )
1730         
1731          ((##core#callunit ##core#recurse)
1732           (grow 1)
1733           (walkeach subs env localenv here #f) )
1734
1735          ((##core#call)
1736           (grow 1)
1737           (let ([fun (car subs)])
1738             (if (eq? '##core#variable (node-class fun))
1739                 (let ([name (first (node-parameters fun))])
1740                   (collect! db name 'call-sites (cons here n))
1741                   ;; If call to standard-binding & optimizable rest-arg operator: decrease access count:
1742                   (if (and (intrinsic? name)
1743                            (memq name optimizable-rest-argument-operators) )
1744                       (for-each
1745                        (lambda (arg)
1746                          (and-let* ([(eq? '##core#variable (node-class arg))]
1747                                     [var (first (node-parameters arg))] )
1748                            (when (get db var 'rest-parameter) (count! db var 'o-r/access-count)) ) )
1749                        (cdr subs) ) ) ) )
1750             (walk (first subs) env localenv here #t)
1751             (walkeach (cdr subs) env localenv here #f) ) )
1752
1753          ((let ##core#let)
1754           (let ([env2 (append params localenv env)])
1755             (let loop ([vars params] [vals subs])
1756               (if (null? vars)
1757                   (walk (car vals) env (append params localenv) here #f)
1758                   (let ([var (car vars)]
1759                         [val (car vals)] )
1760                     (put! db var 'home here)
1761                     (assign var val env2 here)
1762                     (walk val env localenv here #f) 
1763                     (loop (cdr vars) (cdr vals)) ) ) ) ) )
1764
1765          ((lambda)
1766           (grow 1)
1767           (decompose-lambda-list
1768            (first params)
1769            (lambda (vars argc rest)
1770              (for-each
1771               (lambda (var) (put! db var 'unknown #t))
1772               vars)
1773              (let ([tl toplevel-scope])
1774                (set! toplevel-scope #f)
1775                (walk (car subs) (append localenv env) vars #f #f)
1776                (set! toplevel-scope tl) ) ) ) )
1777
1778          ((##core#lambda ##core#direct_lambda)
1779           (grow 1)
1780           (decompose-lambda-list
1781            (third params)
1782            (lambda (vars argc rest)
1783              (let ([id (first params)]
1784                    [size0 current-program-size] )
1785                (when here
1786                  (collect! db here 'contains id)
1787                  (put! db id 'contained-in here) )
1788                (for-each
1789                 (lambda (var)
1790                   (put! db var 'home here)
1791                   (put! db var 'unknown #t) )
1792                 vars)
1793                (when rest
1794                  (put! db rest 'rest-parameter
1795                        (if (memq rest rest-parameters-promoted-to-vector)
1796                            'vector
1797                            'list) ) )
1798                (when (simple-lambda-node? n) (put! db id 'simple #t))
1799                (let ([tl toplevel-scope])
1800                  (unless toplevel-lambda-id (set! toplevel-lambda-id id))
1801                  (when (and (second params) (not (eq? toplevel-lambda-id id)))
1802                    (set! toplevel-scope #f)) ; only if non-CPS lambda
1803                  (walk (car subs) (append localenv env) vars id #f)
1804                  (set! toplevel-scope tl)
1805                  ;; decorate ##core#call node with size
1806                  (set-car! (cdddr (node-parameters n)) (- current-program-size size0)) ) ) ) ) )
1807         
1808          ((set! ##core#set!) 
1809           (let* ([var (first params)]
1810                  [val (car subs)] )
1811             (when first-analysis 
1812               (case (variable-mark var '##compiler#intrinsic)
1813                 ((standard)
1814                  (compiler-warning 'redef "redefinition of standard binding `~S'" var) )
1815                 ((extended)
1816                  (compiler-warning 'redef "redefinition of extended binding `~S'" var) ) )
1817               (put! db var 'potential-value val) )
1818             (when (and (not (memq var localenv)) 
1819                        (not (memq var env)) )
1820               (grow 1)
1821               (put! db var 'global #t) )
1822             (assign var val (append localenv env) here)
1823             (unless toplevel-scope (put! db var 'assigned-locally #t))
1824             (put! db var 'assigned #t)
1825             (walk (car subs) env localenv here #f) ) )
1826
1827          ((##core#primitive ##core#inline)
1828           (let ([id (first params)])
1829             (when (and first-analysis here (symbol? id) (##sys#hash-table-ref real-name-table id))
1830               (set-real-name! id here) )
1831             (walkeach subs env localenv here #f) ) )
1832
1833          (else (walkeach subs env localenv here #f)) ) ) )
1834
1835    (define (walkeach xs env lenv here call) 
1836      (for-each (lambda (x) (walk x env lenv here call)) xs) )
1837
1838    (define (assign var val env here)
1839      (cond ((eq? '##core#undefined (node-class val))
1840             (put! db var 'undefined #t) )
1841            ((and (eq? '##core#variable (node-class val))
1842                  (eq? var (first (node-parameters val))) ) )
1843            ((or block-compilation
1844                 (memq var env)
1845                 (variable-mark var '##compiler#constant)
1846                 (not (variable-visible? var)))
1847             (let ((props (get-all db var 'unknown 'value))
1848                   (home (get db var 'home)) )
1849               (unless (assq 'unknown props)
1850                 (if (assq 'value props)
1851                     (put! db var 'unknown #t)
1852                     (if (or (not home) (eq? here home))
1853                         (put! db var 'value val)
1854                         (put! db var 'unknown #t) ) ) ) ) )
1855            ((and (or local-definitions
1856                      (variable-mark var '##compiler#local))
1857                  (not (get db var 'unknown)))
1858             (let ((home (get db var 'home)))
1859               (if (or (not home) (eq? here home))
1860                   (put! db var 'local-value val)             
1861                   (put! db var 'unknown #t))))
1862            (else (put! db var 'unknown #t)) ) )
1863   
1864    (define (ref var node)
1865      (collect! db var 'references node) )
1866
1867    (define (quick-put! plist prop val)
1868      (set-cdr! plist (alist-cons prop val (cdr plist))) )
1869
1870    ;; Return true if <id> directly or indirectly contains any of <other-ids>:
1871    (define (contains? id other-ids)
1872      (or (memq id other-ids)
1873          (let ((clist (get db id 'contains)))
1874            (and clist
1875                 (any (lambda (id2) (contains? id2 other-ids)) clist) ) ) ) )
1876
1877    ;; Initialize database:
1878    (initialize-analysis-database db)
1879
1880    ;; Walk toplevel expression-node:
1881    (debugging 'p "analysis traversal phase...")
1882    (set! current-program-size 0)
1883    (walk node '() '() #f #f) 
1884
1885    ;; Complete gathered database information:
1886    (debugging 'p "analysis gathering phase...")
1887    (##sys#hash-table-for-each
1888     (lambda (sym plist)
1889       (let ([unknown #f]
1890             [value #f]
1891             [local-value #f]
1892             [pvalue #f]
1893             [references '()]
1894             [captured #f]
1895             [call-sites '()]
1896             [assigned #f]
1897             [assigned-locally #f]
1898             [undefined #f]
1899             [global #f]
1900             [o-r/access-count 0]
1901             [rest-parameter #f] 
1902             [nreferences 0]
1903             [ncall-sites 0] )
1904
1905         (for-each
1906          (lambda (prop)
1907            (case (car prop)
1908              [(unknown) (set! unknown #t)]
1909              [(references) 
1910               (set! references (cdr prop))
1911               (set! nreferences (length references)) ]
1912              [(captured) (set! captured #t)]
1913              [(potential-value) (set! pvalue (cdr prop))]
1914              [(call-sites)
1915               (set! call-sites (cdr prop))
1916               (set! ncall-sites (length call-sites)) ]
1917              [(assigned) (set! assigned #t)]
1918              [(assigned-locally) (set! assigned-locally #t)]
1919              [(undefined) (set! undefined #t)]
1920              [(global) (set! global #t)]
1921              [(value) (set! value (cdr prop))]
1922              [(local-value) (set! local-value (cdr prop))]
1923              [(o-r/access-count) (set! o-r/access-count (cdr prop))]
1924              [(rest-parameter) (set! rest-parameter #t)] ) )
1925          plist)
1926
1927         (set! value (and (not unknown) value))
1928
1929         ;; If this is the first analysis, register known local or potentially known global lambda-value id's
1930         ;;  along with their names:
1931         (when (and first-analysis 
1932                    (eq? '##core#lambda
1933                         (and-let* ([val (or value (and global pvalue))])
1934                           (node-class val) ) ) )
1935           (set-real-name! (first (node-parameters (or value pvalue))) sym) )
1936
1937         ;; If this is the first analysis and the variable is global and has no references and we are
1938         ;;  in block mode, then issue warning:
1939         (when (and first-analysis 
1940                    global
1941                    (null? references)
1942                    (not (variable-mark sym '##compiler#unused)))
1943           (when assigned-locally
1944             (compiler-warning 'var "local assignment to unused variable `~S' may be unintended" sym) )
1945           (when (and (not (variable-visible? sym))
1946                      (not (variable-mark sym '##compiler#constant)) )
1947             (compiler-warning 'var "global variable `~S' is never used" sym) ) )
1948
1949         ;; Make 'boxed, if 'assigned & 'captured:
1950         (when (and assigned captured)
1951           (quick-put! plist 'boxed #t) )
1952
1953         ;; Make 'contractable, if it has a procedure as known value, has only one use and one call-site and
1954         ;;  if the lambda has no free non-global variables or is an internal lambda. Make 'inlinable if
1955         ;;  use/call count is not 1:
1956         (cond (value
1957                (let ((valparams (node-parameters value)))
1958                  (when (and (eq? '##core#lambda (node-class value))
1959                             (or (not (second valparams))
1960                                 (every 
1961                                  (lambda (v) (get db v 'global))
1962                                  (nth-value 0 (scan-free-variables value)) ) ) )
1963                    (if (and (= 1 nreferences) (= 1 ncall-sites))
1964                        (quick-put! plist 'contractable #t)
1965                        (quick-put! plist 'inlinable #t) ) ) ) )
1966               (local-value
1967                ;; Make 'inlinable, if it is declared local and has a value
1968                (let ((valparams (node-parameters local-value)))
1969                  (when (eq? '##core#lambda (node-class local-value))
1970                    (let-values (((vars hvars) (scan-free-variables local-value)))
1971                      (when (and (get db sym 'global)
1972                                 (pair? hvars))
1973                        (quick-put! plist 'hidden-refs #t))
1974                      (when (or (not (second valparams))
1975                                (every 
1976                                 (lambda (v) (get db v 'global)) 
1977                                 vars))
1978                        (quick-put! plist 'inlinable #t) ) ) ) ) )
1979               ((variable-mark sym '##compiler#inline-global) =>
1980                (lambda (n)
1981                  (when (node? n)
1982                    (cond (assigned
1983                           (debugging
1984                            'i "global inline candidate was assigned and will not be inlined"
1985                            sym)
1986                           (mark-variable sym '##compiler#inline-global 'no))
1987                          (else
1988                           (let ((lparams (node-parameters n)))
1989                             (put! db (first lparams) 'simple #t)
1990                             (quick-put! plist 'inlinable #t)
1991                             (quick-put! plist 'local-value n))))))))
1992
1993         ;; Make 'collapsable, if it has a known constant value which is either collapsable or is only
1994         ;;  referenced once and if no assignments are made:
1995         (when (and value
1996                    ;; (not (assq 'assigned plist)) - If it has a known value, it's assigned just once!
1997                    (eq? 'quote (node-class value)) )
1998           (let ((val (first (node-parameters value))))
1999             (when (or (collapsable-literal? val)
2000                       (= 1 nreferences) )
2001               (quick-put! plist 'collapsable #t) ) ) )
2002               
2003         ;; If it has a known value that is a procedure, and if the number of call-sites is equal to the
2004         ;;  number of references (does not escape), then make all formal parameters 'unused which are
2005         ;;  never referenced or assigned (if no rest parameter exist):
2006         ;;  - also marks the procedure as 'has-unused-parameters (if not in `callback-names')
2007         ;;  - if the procedure is internal (a continuation) do NOT mark unused parameters.
2008         ;;  - also: if procedure has rest-parameter and no unused params, mark f-id as 'explicit-rest.
2009         (when value
2010           (let ([has #f])
2011             (when (and (eq? '##core#lambda (node-class value))
2012                        (= nreferences ncall-sites) )
2013               (let ([lparams (node-parameters value)])
2014                 (when (second lparams)
2015                   (decompose-lambda-list
2016                    (third lparams)
2017                    (lambda (vars argc rest)
2018                      (unless rest
2019                        (for-each
2020                         (lambda (var)
2021                           (cond [(and (not (get db var 'references))
2022                                       (not (get db var 'assigned)) )
2023                                  (put! db var 'unused #t)
2024                                  (set! has #t)
2025                                  #t]
2026                                 [else #f] ) )
2027                         vars) )
2028                      (cond [(and has (not (memq sym callback-names)))
2029                             (put! db (first lparams) 'has-unused-parameters #t) ]
2030                            [rest
2031                             (set! explicitly-consed (cons rest explicitly-consed))
2032                             (put! db (first lparams) 'explicit-rest #t) ] ) ) ) ) ) ) ) )
2033
2034         ;;  Make 'removable, if it has no references and is not assigned to, and if it has either a value that
2035         ;;    does not cause any side-effects or if it is 'undefined:
2036         (when (and (not assigned)
2037                    (null? references)
2038                    (or (and value
2039                             (or (not (eq? '##core#variable (node-class value)))
2040                                 (not (get db (first (node-parameters value)) 'global)) )
2041                             (not (expression-has-side-effects? value db)) )
2042                        undefined) )
2043           (quick-put! plist 'removable #t) )
2044
2045         ;; Make 'replacable, if it has a variable as known value and if either that variable has
2046         ;;  a known value itself, or if it is not captured and referenced only once, the target and
2047         ;;  the source are never assigned and the source is non-global or we are in block-mode:
2048         ;;  - The target-variable is not allowed to be global.
2049         ;;  - The variable that can be substituted for the current one is marked as 'replacing.
2050         ;;    This is done to prohibit beta-contraction of the replacing variable (It wouldn't be there, if
2051         ;;    it was contracted).
2052         (when (and value (not global))
2053           (when (eq? '##core#variable (node-class value))
2054             (let* ([name (first (node-parameters value))]
2055                    [nrefs (get db name 'references)] )
2056               (when (or (and (not (get db name 'unknown)) (get db name 'value))
2057                         (and (not (get db name 'captured))
2058                              nrefs
2059                              (= 1 (length nrefs))
2060                              (not assigned)
2061                              (not (get db name 'assigned)) 
2062                              (or block-compilation (not (get db name 'global))) ) )
2063                 (quick-put! plist 'replacable name) 
2064                 (put! db name 'replacing #t) ) ) ) )
2065
2066         ;; Make 'replacable, if it has a known value of the form: '(lambda (<xvar>) (<kvar> <xvar>))' and
2067         ;;  is an internally created procedure: (See above for 'replacing)
2068         (when (and value (eq? '##core#lambda (node-class value)))
2069           (let ([params (node-parameters value)])
2070             (when (not (second params))
2071               (let ([llist (third params)]
2072                     [body (first (node-subexpressions value))] )
2073                 (when (and (pair? llist) 
2074                            (null? (cdr llist))
2075                            (eq? '##core#call (node-class body)) )
2076                   (let ([subs (node-subexpressions body)])
2077                     (when (= 2 (length subs))
2078                       (let ([v1 (first subs)]
2079                             [v2 (second subs)] )
2080                         (when (and (eq? '##core#variable (node-class v1))
2081                                    (eq? '##core#variable (node-class v2))
2082                                    (eq? (first llist) (first (node-parameters v2))) )
2083                           (let ([kvar (first (node-parameters v1))])
2084                             (quick-put! plist 'replacable kvar)
2085                             (put! db kvar 'replacing #t) ) ) ) ) ) ) ) ) ) )
2086
2087         ;; If a rest-argument, convert 'rest-parameter property to 'vector, if the variable is never
2088         ;;  assigned, and the number of references is identical to the number of accesses in optimizable
2089         ;;  rest-argument operators:
2090         ;; - Add variable to "rest-parameters-promoted-to-vector", because subsequent optimization will
2091         ;;   change variables context (operators applied to it).
2092         (when (and rest-parameter
2093                    (not assigned)
2094                    (= nreferences o-r/access-count) )
2095           (set! rest-parameters-promoted-to-vector (lset-adjoin eq? rest-parameters-promoted-to-vector sym))
2096           (put! db sym 'rest-parameter 'vector) ) ) )
2097
2098     db)
2099
2100    ;; Remove explicitly consed rest parameters from promoted ones:
2101    (set! rest-parameters-promoted-to-vector
2102      (lset-difference eq? rest-parameters-promoted-to-vector explicitly-consed) )
2103
2104    ;; Set original program-size, if this is the first analysis-pass:
2105    (unless original-program-size
2106      (set! original-program-size current-program-size) )
2107    db) )
2108
2109
2110;;; Convert closures to explicit data structures (effectively flattens function-binding structure):
2111
2112(define (perform-closure-conversion node db)
2113  (let ([direct-calls 0]
2114        [customizable '()] )
2115
2116    (define (test sym item) (get db sym item))
2117 
2118    (define (register-customizable! var id)
2119      (set! customizable (lset-adjoin eq? customizable var)) 
2120      (put! db id 'customizable #t) )
2121
2122    (define (register-direct-call! id)
2123      (set! direct-calls (add1 direct-calls))
2124      (set! direct-call-ids (lset-adjoin eq? direct-call-ids id)) )
2125
2126    ;; Gather free-variable information:
2127    ;; (and: - register direct calls
2128    ;;       - update (by mutation) call information in "##core#call" nodes)
2129    (define (gather n here env)
2130      (let ((subs (node-subexpressions n))
2131            (params (node-parameters n)) )
2132        (case (node-class n)
2133
2134          ((quote ##core#variable ##core#undefined ##core#proc ##core#primitive ##core#global-ref) #f)
2135
2136          ((let)
2137           (receive (vals body) (split-at subs (length params))
2138             (for-each (lambda (n) (gather n here env)) vals)
2139             (gather (first body) here (append params env)) ) )
2140
2141          ((##core#call)
2142           (let* ([fn (first subs)]
2143                  [mode (first params)]
2144                  [name (and (pair? (cdr params)) (second params))]
2145                  [varfn (eq? '##core#variable (node-class fn))] )
2146             (node-parameters-set!
2147              n
2148              (cons mode
2149                    (if (or name varfn)
2150                        (cons name
2151                              (if varfn
2152                                  (let* ([varname (first (node-parameters fn))]
2153                                         [val (and (not (test varname 'unknown)) (test varname 'value))] )
2154                                    (if (and val (eq? '##core#lambda (node-class val)))
2155                                        (let* ([params (node-parameters val)]
2156                                               [llist (third params)]
2157                                               [id (first params)]
2158                                               [refs (test varname 'references)]
2159                                               [sites (test varname 'call-sites)] 
2160                                               [custom
2161                                                (and refs sites
2162                                                     (= (length refs) (length sites)) 
2163                                                     (proper-list? llist) ) ] )
2164                                          (when (and name custom (not (= (length llist) (length (cdr subs)))))
2165                                            (quit
2166                                             "known procedure called with wrong number of arguments: ~A" 
2167                                             (source-info->string name) ) )
2168                                          (register-direct-call! id)
2169                                          (when custom (register-customizable! varname id)) 
2170                                          (list id custom) )
2171                                        '() ) )
2172                                  '() ) )
2173                        '() ) ) )
2174             (for-each (lambda (n) (gather n here env)) subs) ) )
2175
2176          ((##core#lambda ##core#direct_lambda)
2177           (decompose-lambda-list
2178            (third params)
2179            (lambda (vars argc rest)
2180              (let* ([id (if here (first params) 'toplevel)]
2181                     [capturedvars (captured-variables (car subs) env)]
2182                     [csize (length capturedvars)] )
2183                (put! db id 'closure-size csize)
2184                (put! db id 'captured-variables capturedvars)
2185                (gather (car subs) id (append vars env)) ) ) ) )
2186       
2187          (else (for-each (lambda (n) (gather n here env)) subs)) ) ) )
2188
2189    ;; Create explicit closures:
2190    (define (transform n here closure)
2191      (let ((subs (node-subexpressions n))
2192            (params (node-parameters n)) 
2193            (class (node-class n)) )
2194        (case class
2195
2196          ((quote ##core#undefined ##core#proc ##core#global-ref) n)
2197
2198          ((##core#variable)
2199           (let* ((var (first params))
2200                  (val (ref-var n here closure)) )
2201             (if (test var 'boxed)
2202                 (make-node '##core#unbox '() (list val))
2203                 val) ) )
2204
2205          ((if ##core#call ##core#inline ##core#inline_allocate ##core#callunit ##core#inline_ref ##core#inline_update 
2206               ##core#switch ##core#cond ##core#direct_call ##core#recurse ##core#return ##core#inline_loc_ref
2207               ##core#inline_loc_update)
2208           (make-node (node-class n) params (maptransform subs here closure)) )
2209
2210          ((let)
2211           (let* ([var (first params)]
2212                  [boxedvar (test var 'boxed)]
2213                  [boxedalias (gensym var)] )
2214             (if boxedvar
2215                 (make-node 
2216                  'let (list boxedalias)
2217                  (list (transform (first subs) here closure)
2218                        (make-node
2219                         'let (list var)
2220                         (list (make-node '##core#box '() (list (varnode boxedalias)))
2221                               (transform (second subs) here closure) ) ) ) )
2222                 (make-node
2223                  'let params
2224                  (maptransform subs here closure) ) ) ) )
2225
2226          ((##core#lambda ##core#direct_lambda)
2227           (let ([llist (third params)])
2228             (decompose-lambda-list
2229              llist
2230              (lambda (vars argc rest)
2231                (let* ([boxedvars (filter (lambda (v) (test v 'boxed)) vars)]
2232                       [boxedaliases (map cons boxedvars (map gensym boxedvars))]
2233                       [cvar (gensym 'c)]
2234                       [id (if here (first params) 'toplevel)]
2235                       [capturedvars (or (test id 'captured-variables) '())]
2236                       [csize (or (test id 'closure-size) 0)] 
2237                       [info (and emit-closure-info (second params) (pair? llist))] )
2238                  ;; If rest-parameter is boxed: mark it as 'boxed-rest
2239                  ;;  (if we don't do this than preparation will think the (boxed) alias
2240                  ;;  of the rest-parameter is never used)
2241                  (and-let* ([rest]
2242                             [(test rest 'boxed)]
2243                             [rp (test rest 'rest-parameter)] )
2244                    (put! db (cdr (assq rest boxedaliases)) 'boxed-rest #t) )
2245                  (make-node
2246                   '##core#closure (list (+ csize (if info 2 1)))
2247                   (cons
2248                    (make-node
2249                     class
2250                     (list id
2251                           (second params)
2252                           (cons
2253                            cvar
2254                            (build-lambda-list
2255                             (map (lambda (v)
2256                                    (cond ((assq v boxedaliases) => cdr)
2257                                          (else v) ) )
2258                                  vars)
2259                             argc
2260                             (cond ((and rest (assq rest boxedaliases)) => cdr)
2261                                   (else rest) ) ) )
2262                           (fourth params) )
2263                     (list (let ((body (transform (car subs) cvar capturedvars)))
2264                             (if (pair? boxedvars)
2265                                 (fold-right
2266                                  (lambda (alias val body) (make-node 'let (list alias) (list val body)))
2267                                  body
2268                                  (unzip1 boxedaliases)
2269                                  (map (lambda (a) (make-node '##core#box '() (list (varnode (cdr a)))))
2270                                       boxedaliases) )
2271                                 body) ) ) )
2272                    (let ((cvars (map (lambda (v) (ref-var (varnode v) here closure))
2273                                      capturedvars) ) )
2274                      (if info
2275                          (append
2276                           cvars
2277                           (list
2278                            (qnode 
2279                             (##sys#make-lambda-info
2280                              (->string (cons (or (real-name id) '?)
2281                                              (cdr llist) )))))) ; this is not always correct, due to optimizations
2282                          cvars) ) ) ) ) ) ) ) )
2283
2284          ((set!)
2285           (let* ([var (first params)]
2286                  [val (first subs)]
2287                  [cval (node-class val)]
2288                  [immf (or (and (eq? 'quote cval) (immediate? (first (node-parameters val))))
2289                            (eq? '##core#undefined cval) ) ] )
2290             (cond ((posq var closure)
2291                    => (lambda (i)
2292                         (if (test var 'boxed)
2293                             (make-node
2294                              (if immf '##core#updatebox_i '##core#updatebox)
2295                              '()
2296                              (list (make-node '##core#ref (list (add1 i)) (list (varnode here)))
2297                                    (transform val here closure) ) )
2298                             ;; Is the following actually used???
2299                             (make-node
2300                              (if immf '##core#update_i '##core#update)
2301                              (list (add1 i))
2302                              (list (varnode here)
2303                                    (transform val here closure) ) ) ) ) )
2304                   ((test var 'boxed)
2305                    (make-node
2306                     (if immf '##core#updatebox_i '##core#updatebox)
2307                     '()
2308                     (list (varnode var)
2309                           (transform val here closure) ) ) )
2310                   (else (make-node
2311                          'set! (list var)
2312                          (list (transform val here closure) ) ) ) ) ) )
2313
2314          ((##core#primitive) 
2315           (make-node
2316            '##core#closure (list (if emit-closure-info 2 1))
2317            (cons (make-node '##core#proc (list (car params) #t) '())
2318                  (if emit-closure-info
2319                      (list (qnode (##sys#make-lambda-info (car params))))
2320                      '() ) ) ) )
2321
2322          (else (bomb "bad node (closure2)")) ) ) )
2323
2324    (define (maptransform xs here closure)
2325      (map (lambda (x) (transform x here closure)) xs) )
2326 
2327    (define (ref-var n here closure)
2328      (let ((var (first (node-parameters n))))
2329        (cond ((posq var closure) 
2330               => (lambda (i) 
2331                    (make-node '##core#ref (list (+ i 1)) 
2332                               (list (varnode here)) ) ) )
2333              (else n) ) ) )
2334
2335    (define (captured-variables node env)
2336      (let ([vars '()])
2337        (let walk ([n node])
2338          (let ((subs (node-subexpressions n))
2339                (params (node-parameters n)) )
2340            (case (node-class n)
2341              ((##core#variable)
2342               (let ([var (first params)])
2343                 (when (memq var env)
2344                   (set! vars (lset-adjoin eq? vars var)) ) ) )
2345              ((quote ##core#undefined ##core#primitive ##core#proc ##core#inline_ref ##core#global-ref) #f)
2346              ((set!) 
2347               (let ([var (first params)])
2348                 (when (memq var env) (set! vars (lset-adjoin eq? vars var)))
2349                 (walk (car subs)) ) )
2350              (else (for-each walk subs)) ) ) )
2351        vars) )
2352
2353    (debugging 'p "closure conversion gathering phase...")
2354    (gather node #f '())
2355    (debugging 'o "customizable procedures" customizable)
2356    (debugging 'p "closure conversion transformation phase...")
2357    (let ((node2 (transform node #f #f)))
2358      (unless (zero? direct-calls)
2359        (debugging 'o "calls to known targets" direct-calls (delay (length direct-call-ids))) )
2360      node2) ) )
2361
2362
2363;;; Do some preparations before code-generation can commence:
2364
2365(define-record-type lambda-literal
2366  (make-lambda-literal id external arguments argument-count rest-argument temporaries
2367                       callee-signatures allocated directly-called closure-size
2368                       looping customizable rest-argument-mode body direct)
2369  lambda-literal?
2370  (id lambda-literal-id)                               ; symbol
2371  (external lambda-literal-external)                   ; boolean
2372  (arguments lambda-literal-arguments)                 ; (symbol...)
2373  (argument-count lambda-literal-argument-count)       ; integer
2374  (rest-argument lambda-literal-rest-argument)         ; symbol | #f
2375  (temporaries lambda-literal-temporaries)             ; integer
2376  (callee-signatures lambda-literal-callee-signatures) ; (integer...)
2377  (allocated lambda-literal-allocated)                 ; integer
2378  (directly-called lambda-literal-directly-called)     ; boolean
2379  (closure-size lambda-literal-closure-size)           ; integer
2380  (looping lambda-literal-looping)                     ; boolean
2381  (customizable lambda-literal-customizable)           ; boolean
2382  (rest-argument-mode lambda-literal-rest-argument-mode) ; #f | LIST | VECTOR | UNUSED
2383  (body lambda-literal-body)                             ; expression
2384  (direct lambda-literal-direct))                        ; boolean
2385 
2386(define (prepare-for-code-generation node db)
2387  (let ([literals '()]
2388        [lambda-info-literals '()]
2389        [lambdas '()]
2390        [temporaries 0]
2391        [allocated 0]
2392        [looping 0]
2393        [signatures '()] 
2394        [fastinits 0] 
2395        [fastrefs 0] 
2396        [fastsets 0] )
2397
2398    (define (walk-var var e sf)
2399      (cond [(posq var e) => (lambda (i) (make-node '##core#local (list i) '()))]
2400            [(keyword? var) (make-node '##core#literal (list (literal var)) '())]
2401            [else (walk-global var sf)] ) )
2402
2403    (define (walk-global var sf)
2404      (let* ([safe (or sf 
2405                       no-bound-checks
2406                       unsafe
2407                       (variable-mark var '##compiler#always-bound)
2408                       (intrinsic? var))]
2409             [blockvar (and (get db var 'assigned)
2410                            (not (variable-visible? var)))])
2411        (when blockvar (set! fastrefs (add1 fastrefs)))
2412        (make-node
2413         '##core#global
2414         (list (if blockvar
2415                   (blockvar-literal var)
2416                   (literal var) )
2417               safe
2418               blockvar
2419               var)
2420         '() ) ) )
2421
2422    (define (walk n e here boxes)
2423      (let ((subs (node-subexpressions n))
2424            (params (node-parameters n))
2425            (class (node-class n)) )
2426        (case class
2427
2428          ((##core#undefined ##core#proc) n)
2429
2430          ((##core#variable) 
2431           (walk-var (first params) e #f) )
2432
2433          ((##core#global-ref)
2434           (walk-global (first params) #t) )
2435
2436          ((##core#direct_call)
2437           (set! allocated (+ allocated (fourth params)))
2438           (make-node class params (mapwalk subs e here boxes)) )
2439
2440          ((##core#inline_allocate)
2441           (set! allocated (+ allocated (second params)))
2442           (make-node class params (mapwalk subs e here boxes)) )
2443
2444          ((##core#inline_ref)
2445           (set! allocated (+ allocated (words (estimate-foreign-result-size (second params)))))
2446           (make-node class params '()) )
2447
2448          ((##core#inline_loc_ref)
2449           (set! allocated (+ allocated (words (estimate-foreign-result-size (first params)))))
2450           (make-node class params (mapwalk subs e here boxes)) )
2451
2452          ((##core#closure) 
2453           (set! allocated (+ allocated (first params) 1))
2454           (make-node '##core#closure params (mapwalk subs e here boxes)) )
2455
2456          ((##core#box)
2457           (set! allocated (+ allocated 2))
2458           (make-node '##core#box params (list (walk (first subs) e here boxes))) )
2459
2460          ((##core#updatebox)
2461           (let* ([b (first subs)]
2462                  [subs (mapwalk subs e here boxes)] )
2463             (make-node
2464              (cond [(and (eq? '##core#variable (node-class b))
2465                          (memq (first (node-parameters b)) boxes) )
2466                     (set! fastinits (add1 fastinits))
2467                     '##core#updatebox_i]
2468                    [else class] )
2469              '()
2470              subs) ) )
2471
2472          ((##core#lambda ##core#direct_lambda) 
2473           (let ([temps temporaries]
2474                 [sigs signatures]
2475                 [lping looping]
2476                 [alc allocated] 
2477                 [direct (eq? class '##core#direct_lambda)] )
2478             (set! temporaries 0)
2479             (set! allocated 0)
2480             (set! signatures '())
2481             (set! looping 0)
2482             (decompose-lambda-list
2483              (third params)
2484              (lambda (vars argc rest)
2485                (let* ([id (first params)]
2486                       [rest-mode
2487                        (and rest
2488                             (let ([rrefs (get db rest 'references)])
2489                               (cond [(get db rest 'assigned) 'list]
2490                                     [(and (not (get db rest 'boxed-rest)) (or (not rrefs) (null? rrefs))) 'none] 
2491                                     [else (get db rest 'rest-parameter)] ) ) ) ]
2492                       [body (walk 
2493                              (car subs)
2494                              (if (eq? 'none rest-mode)
2495                                  (butlast vars)
2496                                  vars)
2497                              id
2498                              '()) ] )
2499                  (case rest-mode
2500                    [(none) (debugging 'o "unused rest argument" rest id)]
2501                    [(vector) (debugging 'o "rest argument accessed as vector" rest id)] )
2502                  (when (and direct rest)
2503                    (bomb "bad direct lambda" id allocated rest) )
2504                  (set! lambdas
2505                    (cons (make-lambda-literal
2506                           id
2507                           (second params)
2508                           vars
2509                           argc
2510                           rest
2511                           (add1 temporaries)
2512                           signatures
2513                           allocated
2514                           (or direct (memq id direct-call-ids))
2515                           (or (get db id 'closure-size) 0)
2516                           (and (not rest)
2517                                (> looping 0)
2518                                (begin
2519                                  (debugging 'o "identified direct recursive calls" id looping)
2520                                  #t) )
2521                           (or direct (get db id 'customizable))
2522                           rest-mode
2523                           body
2524                           direct)
2525                          lambdas) )
2526                  (set! looping lping)
2527                  (set! temporaries temps)
2528                  (set! allocated alc)
2529                  (set! signatures sigs)
2530                  (make-node '##core#proc (list (first params)) '()) ) ) ) ) )
2531
2532          ((let)
2533           (let* ([var (first params)]
2534                  [val (first subs)] 
2535                  [boxvars (if (eq? '##core#box (node-class val)) (list var) '())] )
2536             (set! temporaries (add1 temporaries))
2537             (make-node
2538              '##core#bind (list 1)
2539              (list (walk val e here boxes)
2540                    (walk (second subs) (append e params) here (append boxvars boxes)) ) ) ) )
2541
2542          ((set!)
2543           (let ([var (first params)]
2544                 [val (first subs)] )
2545             (cond ((posq var e)
2546                    => (lambda (i) 
2547                         (make-node '##core#setlocal (list i) (list (walk val e here boxes)) ) ) )
2548                   (else
2549                    (let* ([cval (node-class val)]
2550                           [safe (not (or no-bound-checks
2551                                          unsafe
2552                                          (variable-mark var '##compiler#always-bound)
2553                                          (intrinsic? var)))]
2554                           [blockvar (not (variable-visible? var))]
2555                           [immf (or (and (eq? cval 'quote) (immediate? (first (node-parameters val))))
2556                                     (eq? '##core#undefined cval) ) ] )
2557                      (when blockvar (set! fastsets (add1 fastsets)))
2558                      (make-node
2559                       (if immf '##core#setglobal_i '##core#setglobal)
2560                       (list (if blockvar
2561                                 (blockvar-literal var)
2562                                 (literal var) )
2563                             blockvar
2564                             var)
2565                       (list (walk (car subs) e here boxes)) ) ) ) ) ) )
2566
2567          ((##core#call) 
2568           (let ([len (length (cdr subs))])
2569             (set! signatures (lset-adjoin = signatures len)) 
2570             (when (and (>= (length params) 3) (eq? here (third params)))
2571               (set! looping (add1 looping)) )
2572             (make-node class params (mapwalk subs e here boxes)) ) )
2573
2574          ((##core#recurse)
2575           (when (first params) (set! looping (add1 looping)))
2576           (make-node class params (mapwalk subs e here boxes)) )
2577
2578          ((quote)
2579           (let ((c (first params)))
2580             (cond ((and (fixnum? c) (not (big-fixnum? c)))
2581                    (immediate-literal c) )
2582                   ((number? c)
2583                    (cond ((eq? 'fixnum number-type)
2584                           (cond ((and (integer? c) (not (big-fixnum? c)))
2585                                  (compiler-warning 
2586                                   'type 
2587                                   "coerced inexact literal number `~S' to fixnum ~S" c (inexact->exact c))
2588                                  (immediate-literal (inexact->exact c)) )
2589                                 (else (quit "can not coerce inexact literal `~S' to fixnum" c)) ) )
2590                          (else (make-node '##core#literal (list (literal c)) '())) ) )
2591                   ((immediate? c) (immediate-literal c))
2592                   (else (make-node '##core#literal (list (literal c)) '())) ) ) )
2593
2594          ((if ##core#cond)
2595           (let* ((test (walk (first subs) e here boxes))
2596                  (a0 allocated)
2597                  (x1 (walk (second subs) e here boxes))
2598                  (a1 allocated)
2599                  (x2 (walk (third subs) e here boxes)))
2600             (set! allocated (+ a0 (max (- allocated a1) (- a1 a0))))
2601             (make-node class params (list test x1 x2))))
2602
2603          ((##core#switch)
2604           (let* ((exp (walk (first subs) e here boxes))
2605                  (a0 allocated))
2606             (make-node
2607              class
2608              params
2609              (cons
2610               exp
2611               (let loop ((j (first params)) (subs (cdr subs)) (ma 0))
2612                 (set! allocated a0)
2613                 (if (zero? j)
2614                     (let ((def (walk (car subs) e here boxes)))
2615                       (set! allocated (+ a0 (max ma (- allocated a0))))
2616                       (list def))
2617                     (let* ((const (walk (car subs) e here boxes))
2618                            (body (walk (cadr subs) e here boxes)))
2619                       (cons* 
2620                        const body
2621                        (loop (sub1 j) (cddr subs) (max (- allocated a0) ma))))))))))
2622
2623          (else (make-node class params (mapwalk subs e here boxes)) ) ) ) )
2624   
2625    (define (mapwalk xs e here boxes)
2626      (map (lambda (x) (walk x e here boxes)) xs) )
2627
2628    (define (literal x)
2629      (cond [(immediate? x) (immediate-literal x)]
2630            [(number? x)
2631             (or (and (inexact? x) 
2632                      (list-index (lambda (y) (and (number? y) (inexact? y) (= x y)))
2633                                  literals) )
2634                 (new-literal x)) ]
2635            ((##core#inline "C_lambdainfop" x)
2636             (let ((i (length lambda-info-literals)))
2637               (set! lambda-info-literals 
2638                 (append lambda-info-literals (list x))) ;*** see below
2639               (vector i) ) )
2640            [(posq x literals) => identity]
2641            [else (new-literal x)] ) )
2642
2643    (define (new-literal x)
2644      (let ([i (length literals)])
2645        (set! literals (append literals (list x))) ;*** could (should) be optimized
2646        i) )
2647
2648    (define (blockvar-literal var)
2649      (or (list-index
2650           (lambda (lit) 
2651             (and (block-variable-literal? lit)
2652                  (eq? var (block-variable-literal-name lit)) ) )
2653           literals)
2654          (new-literal (make-block-variable-literal var)) ) )
2655   
2656    (define (immediate-literal x)
2657      (if (eq? (void) x)
2658          (make-node '##core#undefined '() '())
2659          (make-node '##core#immediate
2660                     (cond ((fixnum? x) `(fix ,x))
2661                           ((boolean? x) `(bool ,x))
2662                           ((char? x) `(char ,x))
2663                           ((null? x) '(nil))
2664                           ((eof-object? x) '(eof))
2665                           (else (bomb "bad immediate (prepare)")) )
2666                     '() ) ) )
2667   
2668    (debugging 'p "preparation phase...")
2669    (let ((node2 (walk node '() #f '())))
2670      (debugging 'o "fast box initializations" fastinits)
2671      (debugging 'o "fast global references" fastrefs)
2672      (debugging 'o "fast global assignments" fastsets)
2673      (values node2 literals lambda-info-literals lambdas) ) ) )
Note: See TracBrowser for help on using the repository browser.