Avoid flushing of global TLB entries for differing ASIDs (Thiemo Seufer).
[qemu] / linux-user / mmap.c
1 /*
2  *  mmap support for qemu
3  * 
4  *  Copyright (c) 2003 Fabrice Bellard
5  *
6  *  This program is free software; you can redistribute it and/or modify
7  *  it under the terms of the GNU General Public License as published by
8  *  the Free Software Foundation; either version 2 of the License, or
9  *  (at your option) any later version.
10  *
11  *  This program is distributed in the hope that it will be useful,
12  *  but WITHOUT ANY WARRANTY; without even the implied warranty of
13  *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  *  GNU General Public License for more details.
15  *
16  *  You should have received a copy of the GNU General Public License
17  *  along with this program; if not, write to the Free Software
18  *  Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
19  */
20 #include <stdlib.h>
21 #include <stdio.h>
22 #include <stdarg.h>
23 #include <string.h>
24 #include <unistd.h>
25 #include <errno.h>
26 #include <sys/mman.h>
27
28 #include "qemu.h"
29
30 //#define DEBUG_MMAP
31
32 /* NOTE: all the constants are the HOST ones */
33 int target_mprotect(unsigned long start, unsigned long len, int prot)
34 {
35     unsigned long end, host_start, host_end, addr;
36     int prot1, ret;
37
38 #ifdef DEBUG_MMAP
39     printf("mprotect: start=0x%lx len=0x%lx prot=%c%c%c\n", start, len,
40            prot & PROT_READ ? 'r' : '-',
41            prot & PROT_WRITE ? 'w' : '-',
42            prot & PROT_EXEC ? 'x' : '-');
43 #endif
44
45     if ((start & ~TARGET_PAGE_MASK) != 0)
46         return -EINVAL;
47     len = TARGET_PAGE_ALIGN(len);
48     end = start + len;
49     if (end < start)
50         return -EINVAL;
51     if (prot & ~(PROT_READ | PROT_WRITE | PROT_EXEC))
52         return -EINVAL;
53     if (len == 0)
54         return 0;
55     
56     host_start = start & qemu_host_page_mask;
57     host_end = HOST_PAGE_ALIGN(end);
58     if (start > host_start) {
59         /* handle host page containing start */
60         prot1 = prot;
61         for(addr = host_start; addr < start; addr += TARGET_PAGE_SIZE) {
62             prot1 |= page_get_flags(addr);
63         }
64         if (host_end == host_start + qemu_host_page_size) {
65             for(addr = end; addr < host_end; addr += TARGET_PAGE_SIZE) {
66                 prot1 |= page_get_flags(addr);
67             }
68             end = host_end;
69         }
70         ret = mprotect((void *)host_start, qemu_host_page_size, prot1 & PAGE_BITS);
71         if (ret != 0)
72             return ret;
73         host_start += qemu_host_page_size;
74     }
75     if (end < host_end) {
76         prot1 = prot;
77         for(addr = end; addr < host_end; addr += TARGET_PAGE_SIZE) {
78             prot1 |= page_get_flags(addr);
79         }
80         ret = mprotect((void *)(host_end - qemu_host_page_size), qemu_host_page_size, 
81                        prot1 & PAGE_BITS);
82         if (ret != 0)
83             return ret;
84         host_end -= qemu_host_page_size;
85     }
86     
87     /* handle the pages in the middle */
88     if (host_start < host_end) {
89         ret = mprotect((void *)host_start, host_end - host_start, prot);
90         if (ret != 0)
91             return ret;
92     }
93     page_set_flags(start, start + len, prot | PAGE_VALID);
94     return 0;
95 }
96
97 /* map an incomplete host page */
98 int mmap_frag(unsigned long host_start, 
99                unsigned long start, unsigned long end, 
100                int prot, int flags, int fd, unsigned long offset)
101 {
102     unsigned long host_end, ret, addr;
103     int prot1, prot_new;
104
105     host_end = host_start + qemu_host_page_size;
106
107     /* get the protection of the target pages outside the mapping */
108     prot1 = 0;
109     for(addr = host_start; addr < host_end; addr++) {
110         if (addr < start || addr >= end)
111             prot1 |= page_get_flags(addr);
112     }
113     
114     if (prot1 == 0) {
115         /* no page was there, so we allocate one */
116         ret = (long)mmap((void *)host_start, qemu_host_page_size, prot, 
117                          flags | MAP_ANONYMOUS, -1, 0);
118         if (ret == -1)
119             return ret;
120     }
121     prot1 &= PAGE_BITS;
122
123     prot_new = prot | prot1;
124     if (!(flags & MAP_ANONYMOUS)) {
125         /* msync() won't work here, so we return an error if write is
126            possible while it is a shared mapping */
127         if ((flags & MAP_TYPE) == MAP_SHARED &&
128             (prot & PROT_WRITE))
129             return -EINVAL;
130
131         /* adjust protection to be able to read */
132         if (!(prot1 & PROT_WRITE))
133             mprotect((void *)host_start, qemu_host_page_size, prot1 | PROT_WRITE);
134         
135         /* read the corresponding file data */
136         pread(fd, (void *)start, end - start, offset);
137         
138         /* put final protection */
139         if (prot_new != (prot1 | PROT_WRITE))
140             mprotect((void *)host_start, qemu_host_page_size, prot_new);
141     } else {
142         /* just update the protection */
143         if (prot_new != prot1) {
144             mprotect((void *)host_start, qemu_host_page_size, prot_new);
145         }
146     }
147     return 0;
148 }
149
150 /* NOTE: all the constants are the HOST ones */
151 long target_mmap(unsigned long start, unsigned long len, int prot, 
152                  int flags, int fd, unsigned long offset)
153 {
154     unsigned long ret, end, host_start, host_end, retaddr, host_offset, host_len;
155 #if defined(__alpha__) || defined(__sparc__) || defined(__x86_64__) || \
156     defined(__ia64)
157     static unsigned long last_start = 0x40000000;
158 #endif
159
160 #ifdef DEBUG_MMAP
161     {
162         printf("mmap: start=0x%lx len=0x%lx prot=%c%c%c flags=",
163                start, len, 
164                prot & PROT_READ ? 'r' : '-',
165                prot & PROT_WRITE ? 'w' : '-',
166                prot & PROT_EXEC ? 'x' : '-');
167         if (flags & MAP_FIXED)
168             printf("MAP_FIXED ");
169         if (flags & MAP_ANONYMOUS)
170             printf("MAP_ANON ");
171         switch(flags & MAP_TYPE) {
172         case MAP_PRIVATE:
173             printf("MAP_PRIVATE ");
174             break;
175         case MAP_SHARED:
176             printf("MAP_SHARED ");
177             break;
178         default:
179             printf("[MAP_TYPE=0x%x] ", flags & MAP_TYPE);
180             break;
181         }
182         printf("fd=%d offset=%lx\n", fd, offset);
183     }
184 #endif
185
186     if (offset & ~TARGET_PAGE_MASK) {
187         errno = EINVAL;
188         return -1;
189     }
190
191     len = TARGET_PAGE_ALIGN(len);
192     if (len == 0)
193         return start;
194     host_start = start & qemu_host_page_mask;
195
196     if (!(flags & MAP_FIXED)) {
197 #if defined(__alpha__) || defined(__sparc__) || defined(__x86_64__) || \
198     defined(__ia64)
199         /* tell the kenel to search at the same place as i386 */
200         if (host_start == 0) {
201             host_start = last_start;
202             last_start += HOST_PAGE_ALIGN(len);
203         }
204 #endif
205         if (qemu_host_page_size != qemu_real_host_page_size) {
206             /* NOTE: this code is only for debugging with '-p' option */
207             /* reserve a memory area */
208             host_len = HOST_PAGE_ALIGN(len) + qemu_host_page_size - TARGET_PAGE_SIZE;
209             host_start = (long)mmap((void *)host_start, host_len, PROT_NONE, 
210                                     MAP_PRIVATE | MAP_ANONYMOUS, -1, 0);
211             if (host_start == -1)
212                 return host_start;
213             host_end = host_start + host_len;
214             start = HOST_PAGE_ALIGN(host_start);
215             end = start + HOST_PAGE_ALIGN(len);
216             if (start > host_start)
217                 munmap((void *)host_start, start - host_start);
218             if (end < host_end)
219                 munmap((void *)end, host_end - end);
220             /* use it as a fixed mapping */
221             flags |= MAP_FIXED;
222         } else {
223             /* if not fixed, no need to do anything */
224             host_offset = offset & qemu_host_page_mask;
225             host_len = len + offset - host_offset;
226             start = (long)mmap((void *)host_start, host_len, 
227                                prot, flags, fd, host_offset);
228             if (start == -1)
229                 return start;
230             /* update start so that it points to the file position at 'offset' */
231             if (!(flags & MAP_ANONYMOUS)) 
232                 start += offset - host_offset;
233             goto the_end1;
234         }
235     }
236     
237     if (start & ~TARGET_PAGE_MASK) {
238         errno = EINVAL;
239         return -1;
240     }
241     end = start + len;
242     host_end = HOST_PAGE_ALIGN(end);
243
244     /* worst case: we cannot map the file because the offset is not
245        aligned, so we read it */
246     if (!(flags & MAP_ANONYMOUS) &&
247         (offset & ~qemu_host_page_mask) != (start & ~qemu_host_page_mask)) {
248         /* msync() won't work here, so we return an error if write is
249            possible while it is a shared mapping */
250         if ((flags & MAP_TYPE) == MAP_SHARED &&
251             (prot & PROT_WRITE)) {
252             errno = EINVAL;
253             return -1;
254         }
255         retaddr = target_mmap(start, len, prot | PROT_WRITE, 
256                               MAP_FIXED | MAP_PRIVATE | MAP_ANONYMOUS, 
257                               -1, 0);
258         if (retaddr == -1)
259             return retaddr;
260         pread(fd, (void *)start, len, offset);
261         if (!(prot & PROT_WRITE)) {
262             ret = target_mprotect(start, len, prot);
263             if (ret != 0)
264                 return ret;
265         }
266         goto the_end;
267     }
268
269     /* handle the start of the mapping */
270     if (start > host_start) {
271         if (host_end == host_start + qemu_host_page_size) {
272             /* one single host page */
273             ret = mmap_frag(host_start, start, end,
274                             prot, flags, fd, offset);
275             if (ret == -1)
276                 return ret;
277             goto the_end1;
278         }
279         ret = mmap_frag(host_start, start, host_start + qemu_host_page_size,
280                         prot, flags, fd, offset);
281         if (ret == -1)
282             return ret;
283         host_start += qemu_host_page_size;
284     }
285     /* handle the end of the mapping */
286     if (end < host_end) {
287         ret = mmap_frag(host_end - qemu_host_page_size, 
288                         host_end - qemu_host_page_size, host_end,
289                         prot, flags, fd, 
290                         offset + host_end - qemu_host_page_size - start);
291         if (ret == -1)
292             return ret;
293         host_end -= qemu_host_page_size;
294     }
295     
296     /* map the middle (easier) */
297     if (host_start < host_end) {
298         unsigned long offset1;
299         if (flags & MAP_ANONYMOUS)
300           offset1 = 0;
301         else
302           offset1 = offset + host_start - start;
303         ret = (long)mmap((void *)host_start, host_end - host_start, 
304                          prot, flags, fd, offset1);
305         if (ret == -1)
306             return ret;
307     }
308  the_end1:
309     page_set_flags(start, start + len, prot | PAGE_VALID);
310  the_end:
311 #ifdef DEBUG_MMAP
312     printf("ret=0x%lx\n", (long)start);
313     page_dump(stdout);
314     printf("\n");
315 #endif
316     return start;
317 }
318
319 int target_munmap(unsigned long start, unsigned long len)
320 {
321     unsigned long end, host_start, host_end, addr;
322     int prot, ret;
323
324 #ifdef DEBUG_MMAP
325     printf("munmap: start=0x%lx len=0x%lx\n", start, len);
326 #endif
327     if (start & ~TARGET_PAGE_MASK)
328         return -EINVAL;
329     len = TARGET_PAGE_ALIGN(len);
330     if (len == 0)
331         return -EINVAL;
332     end = start + len;
333     host_start = start & qemu_host_page_mask;
334     host_end = HOST_PAGE_ALIGN(end);
335
336     if (start > host_start) {
337         /* handle host page containing start */
338         prot = 0;
339         for(addr = host_start; addr < start; addr += TARGET_PAGE_SIZE) {
340             prot |= page_get_flags(addr);
341         }
342         if (host_end == host_start + qemu_host_page_size) {
343             for(addr = end; addr < host_end; addr += TARGET_PAGE_SIZE) {
344                 prot |= page_get_flags(addr);
345             }
346             end = host_end;
347         }
348         if (prot != 0)
349             host_start += qemu_host_page_size;
350     }
351     if (end < host_end) {
352         prot = 0;
353         for(addr = end; addr < host_end; addr += TARGET_PAGE_SIZE) {
354             prot |= page_get_flags(addr);
355         }
356         if (prot != 0)
357             host_end -= qemu_host_page_size;
358     }
359     
360     /* unmap what we can */
361     if (host_start < host_end) {
362         ret = munmap((void *)host_start, host_end - host_start);
363         if (ret != 0)
364             return ret;
365     }
366
367     page_set_flags(start, start + len, 0);
368     return 0;
369 }
370
371 /* XXX: currently, we only handle MAP_ANONYMOUS and not MAP_FIXED
372    blocks which have been allocated starting on a host page */
373 long target_mremap(unsigned long old_addr, unsigned long old_size, 
374                    unsigned long new_size, unsigned long flags,
375                    unsigned long new_addr)
376 {
377     int prot;
378
379     /* XXX: use 5 args syscall */
380     new_addr = (long)mremap((void *)old_addr, old_size, new_size, flags);
381     if (new_addr == -1)
382         return new_addr;
383     prot = page_get_flags(old_addr);
384     page_set_flags(old_addr, old_addr + old_size, 0);
385     page_set_flags(new_addr, new_addr + new_size, prot | PAGE_VALID);
386     return new_addr;
387 }
388
389 int target_msync(unsigned long start, unsigned long len, int flags)
390 {
391     unsigned long end;
392
393     if (start & ~TARGET_PAGE_MASK)
394         return -EINVAL;
395     len = TARGET_PAGE_ALIGN(len);
396     end = start + len;
397     if (end < start)
398         return -EINVAL;
399     if (end == start)
400         return 0;
401     
402     start &= qemu_host_page_mask;
403     return msync((void *)start, end - start, flags);
404 }
405