vserver 1.9.3
[linux-2.6.git] / fs / xfs / linux-2.6 / xfs_buf.h
1 /*
2  * Copyright (c) 2000-2004 Silicon Graphics, Inc.  All Rights Reserved.
3  *
4  * This program is free software; you can redistribute it and/or modify it
5  * under the terms of version 2 of the GNU General Public License as
6  * published by the Free Software Foundation.
7  *
8  * This program is distributed in the hope that it would be useful, but
9  * WITHOUT ANY WARRANTY; without even the implied warranty of
10  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.
11  *
12  * Further, this software is distributed without any warranty that it is
13  * free of the rightful claim of any third person regarding infringement
14  * or the like.  Any license provided herein, whether implied or
15  * otherwise, applies only to this software file.  Patent licenses, if
16  * any, provided herein do not apply to combinations of this program with
17  * other software, or any other product whatsoever.
18  *
19  * You should have received a copy of the GNU General Public License along
20  * with this program; if not, write the Free Software Foundation, Inc., 59
21  * Temple Place - Suite 330, Boston MA 02111-1307, USA.
22  *
23  * Contact information: Silicon Graphics, Inc., 1600 Amphitheatre Pkwy,
24  * Mountain View, CA  94043, or:
25  *
26  * http://www.sgi.com
27  *
28  * For further information regarding this notice, see:
29  *
30  * http://oss.sgi.com/projects/GenInfo/SGIGPLNoticeExplan/
31  */
32
33 /*
34  * Written by Steve Lord, Jim Mostek, Russell Cattelan at SGI
35  */
36
37 #ifndef __XFS_BUF_H__
38 #define __XFS_BUF_H__
39
40 #include <linux/config.h>
41 #include <linux/list.h>
42 #include <linux/types.h>
43 #include <linux/spinlock.h>
44 #include <asm/system.h>
45 #include <linux/mm.h>
46 #include <linux/fs.h>
47 #include <linux/buffer_head.h>
48 #include <linux/uio.h>
49
50 /*
51  *      Base types
52  */
53
54 #define XFS_BUF_DADDR_NULL ((xfs_daddr_t) (-1LL))
55
56 #define page_buf_ctob(pp)       ((pp) * PAGE_CACHE_SIZE)
57 #define page_buf_btoc(dd)       (((dd) + PAGE_CACHE_SIZE - 1) >> PAGE_CACHE_SHIFT)
58 #define page_buf_btoct(dd)      ((dd) >> PAGE_CACHE_SHIFT)
59 #define page_buf_poff(aa)       ((aa) & ~PAGE_CACHE_MASK)
60
61 typedef enum page_buf_rw_e {
62         PBRW_READ = 1,                  /* transfer into target memory */
63         PBRW_WRITE = 2,                 /* transfer from target memory */
64         PBRW_ZERO = 3                   /* Zero target memory */
65 } page_buf_rw_t;
66
67
68 typedef enum page_buf_flags_e {         /* pb_flags values */
69         PBF_READ = (1 << 0),    /* buffer intended for reading from device */
70         PBF_WRITE = (1 << 1),   /* buffer intended for writing to device   */
71         PBF_MAPPED = (1 << 2),  /* buffer mapped (pb_addr valid)           */
72         PBF_PARTIAL = (1 << 3), /* buffer partially read                   */
73         PBF_ASYNC = (1 << 4),   /* initiator will not wait for completion  */
74         PBF_NONE = (1 << 5),    /* buffer not read at all                  */
75         PBF_DELWRI = (1 << 6),  /* buffer has dirty pages                  */
76         PBF_STALE = (1 << 7),   /* buffer has been staled, do not find it  */
77         PBF_FS_MANAGED = (1 << 8),  /* filesystem controls freeing memory  */
78         PBF_FS_DATAIOD = (1 << 9),  /* schedule IO completion on fs datad  */
79         PBF_FORCEIO = (1 << 10),    /* ignore any cache state              */
80         PBF_FLUSH = (1 << 11),      /* flush disk write cache              */
81         PBF_READ_AHEAD = (1 << 12), /* asynchronous read-ahead             */
82
83         /* flags used only as arguments to access routines */
84         PBF_LOCK = (1 << 14),       /* lock requested                      */
85         PBF_TRYLOCK = (1 << 15),    /* lock requested, but do not wait     */
86         PBF_DONT_BLOCK = (1 << 16), /* do not block in current thread      */
87
88         /* flags used only internally */
89         _PBF_PAGE_CACHE = (1 << 17),/* backed by pagecache                 */
90         _PBF_KMEM_ALLOC = (1 << 18),/* backed by kmem_alloc()              */
91         _PBF_RUN_QUEUES = (1 << 19),/* run block device task queue         */
92 } page_buf_flags_t;
93
94 #define PBF_UPDATE (PBF_READ | PBF_WRITE)
95 #define PBF_NOT_DONE(pb) (((pb)->pb_flags & (PBF_PARTIAL|PBF_NONE)) != 0)
96 #define PBF_DONE(pb) (((pb)->pb_flags & (PBF_PARTIAL|PBF_NONE)) == 0)
97
98 typedef struct xfs_buftarg {
99         dev_t                   pbr_dev;
100         struct block_device     *pbr_bdev;
101         struct address_space    *pbr_mapping;
102         unsigned int            pbr_bsize;
103         unsigned int            pbr_sshift;
104         size_t                  pbr_smask;
105 } xfs_buftarg_t;
106
107 /*
108  *      xfs_buf_t:  Buffer structure for page cache-based buffers
109  *
110  * This buffer structure is used by the page cache buffer management routines
111  * to refer to an assembly of pages forming a logical buffer.  The actual
112  * I/O is performed with buffer_head or bio structures, as required by drivers,
113  * for drivers which do not understand this structure.  The buffer structure is
114  * used on temporary basis only, and discarded when released.
115  *
116  * The real data storage is recorded in the page cache.  Metadata is
117  * hashed to the inode for the block device on which the file system resides.
118  * File data is hashed to the inode for the file.  Pages which are only
119  * partially filled with data have bits set in their block_map entry
120  * to indicate which disk blocks in the page are not valid.
121  */
122
123 struct xfs_buf;
124 typedef void (*page_buf_iodone_t)(struct xfs_buf *);
125                         /* call-back function on I/O completion */
126 typedef void (*page_buf_relse_t)(struct xfs_buf *);
127                         /* call-back function on I/O completion */
128 typedef int (*page_buf_bdstrat_t)(struct xfs_buf *);
129
130 #define PB_PAGES        4
131
132 typedef struct xfs_buf {
133         struct semaphore        pb_sema;        /* semaphore for lockables  */
134         unsigned long           pb_queuetime;   /* time buffer was queued   */
135         atomic_t                pb_pin_count;   /* pin count                */
136         wait_queue_head_t       pb_waiters;     /* unpin waiters            */
137         struct list_head        pb_list;
138         page_buf_flags_t        pb_flags;       /* status flags */
139         struct list_head        pb_hash_list;
140         xfs_buftarg_t           *pb_target;     /* logical object */
141         atomic_t                pb_hold;        /* reference count */
142         xfs_daddr_t             pb_bn;          /* block number for I/O */
143         loff_t                  pb_file_offset; /* offset in file */
144         size_t                  pb_buffer_length; /* size of buffer in bytes */
145         size_t                  pb_count_desired; /* desired transfer size */
146         void                    *pb_addr;       /* virtual address of buffer */
147         struct work_struct      pb_iodone_work;
148         atomic_t                pb_io_remaining;/* #outstanding I/O requests */
149         page_buf_iodone_t       pb_iodone;      /* I/O completion function */
150         page_buf_relse_t        pb_relse;       /* releasing function */
151         page_buf_bdstrat_t      pb_strat;       /* pre-write function */
152         struct semaphore        pb_iodonesema;  /* Semaphore for I/O waiters */
153         void                    *pb_fspriv;
154         void                    *pb_fspriv2;
155         void                    *pb_fspriv3;
156         unsigned short          pb_error;       /* error code on I/O */
157         unsigned short          pb_page_count;  /* size of page array */
158         unsigned short          pb_offset;      /* page offset in first page */
159         unsigned char           pb_locked;      /* page array is locked */
160         unsigned char           pb_hash_index;  /* hash table index     */
161         struct page             **pb_pages;     /* array of page pointers */
162         struct page             *pb_page_array[PB_PAGES]; /* inline pages */
163 #ifdef PAGEBUF_LOCK_TRACKING
164         int                     pb_last_holder;
165 #endif
166 } xfs_buf_t;
167
168
169 /* Finding and Reading Buffers */
170
171 extern xfs_buf_t *pagebuf_find( /* find buffer for block if     */
172                                         /* the block is in memory       */
173                 xfs_buftarg_t *,        /* inode for block              */
174                 loff_t,                 /* starting offset of range     */
175                 size_t,                 /* length of range              */
176                 page_buf_flags_t);      /* PBF_LOCK                     */
177
178 extern xfs_buf_t *pagebuf_get(          /* allocate a buffer            */
179                 xfs_buftarg_t *,        /* inode for buffer             */
180                 loff_t,                 /* starting offset of range     */
181                 size_t,                 /* length of range              */
182                 page_buf_flags_t);      /* PBF_LOCK, PBF_READ,          */
183                                         /* PBF_ASYNC                    */
184
185 extern xfs_buf_t *pagebuf_lookup(
186                 xfs_buftarg_t *,
187                 loff_t,                 /* starting offset of range     */
188                 size_t,                 /* length of range              */
189                 page_buf_flags_t);      /* PBF_READ, PBF_WRITE,         */
190                                         /* PBF_FORCEIO,                 */
191
192 extern xfs_buf_t *pagebuf_get_empty(    /* allocate pagebuf struct with */
193                                         /*  no memory or disk address   */
194                 size_t len,
195                 xfs_buftarg_t *);       /* mount point "fake" inode     */
196
197 extern xfs_buf_t *pagebuf_get_no_daddr(/* allocate pagebuf struct       */
198                                         /* without disk address         */
199                 size_t len,
200                 xfs_buftarg_t *);       /* mount point "fake" inode     */
201
202 extern int pagebuf_associate_memory(
203                 xfs_buf_t *,
204                 void *,
205                 size_t);
206
207 extern void pagebuf_hold(               /* increment reference count    */
208                 xfs_buf_t *);           /* buffer to hold               */
209
210 extern void pagebuf_readahead(          /* read ahead into cache        */
211                 xfs_buftarg_t  *,       /* target for buffer (or NULL)  */
212                 loff_t,                 /* starting offset of range     */
213                 size_t,                 /* length of range              */
214                 page_buf_flags_t);      /* additional read flags        */
215
216 /* Releasing Buffers */
217
218 extern void pagebuf_free(               /* deallocate a buffer          */
219                 xfs_buf_t *);           /* buffer to deallocate         */
220
221 extern void pagebuf_rele(               /* release hold on a buffer     */
222                 xfs_buf_t *);           /* buffer to release            */
223
224 /* Locking and Unlocking Buffers */
225
226 extern int pagebuf_cond_lock(           /* lock buffer, if not locked   */
227                                         /* (returns -EBUSY if locked)   */
228                 xfs_buf_t *);           /* buffer to lock               */
229
230 extern int pagebuf_lock_value(          /* return count on lock         */
231                 xfs_buf_t *);          /* buffer to check              */
232
233 extern int pagebuf_lock(                /* lock buffer                  */
234                 xfs_buf_t *);          /* buffer to lock               */
235
236 extern void pagebuf_unlock(             /* unlock buffer                */
237                 xfs_buf_t *);           /* buffer to unlock             */
238
239 /* Buffer Read and Write Routines */
240
241 extern void pagebuf_iodone(             /* mark buffer I/O complete     */
242                 xfs_buf_t *,            /* buffer to mark               */
243                 int,                    /* use data/log helper thread.  */
244                 int);                   /* run completion locally, or in
245                                          * a helper thread.             */
246
247 extern void pagebuf_ioerror(            /* mark buffer in error (or not) */
248                 xfs_buf_t *,            /* buffer to mark               */
249                 int);                   /* error to store (0 if none)   */
250
251 extern int pagebuf_iostart(             /* start I/O on a buffer        */
252                 xfs_buf_t *,            /* buffer to start              */
253                 page_buf_flags_t);      /* PBF_LOCK, PBF_ASYNC,         */
254                                         /* PBF_READ, PBF_WRITE,         */
255                                         /* PBF_DELWRI                   */
256
257 extern int pagebuf_iorequest(           /* start real I/O               */
258                 xfs_buf_t *);           /* buffer to convey to device   */
259
260 extern int pagebuf_iowait(              /* wait for buffer I/O done     */
261                 xfs_buf_t *);           /* buffer to wait on            */
262
263 extern void pagebuf_iomove(             /* move data in/out of pagebuf  */
264                 xfs_buf_t *,            /* buffer to manipulate         */
265                 size_t,                 /* starting buffer offset       */
266                 size_t,                 /* length in buffer             */
267                 caddr_t,                /* data pointer                 */
268                 page_buf_rw_t);         /* direction                    */
269
270 static inline int pagebuf_iostrategy(xfs_buf_t *pb)
271 {
272         return pb->pb_strat ? pb->pb_strat(pb) : pagebuf_iorequest(pb);
273 }
274
275 static inline int pagebuf_geterror(xfs_buf_t *pb)
276 {
277         return pb ? pb->pb_error : ENOMEM;
278 }
279
280 /* Buffer Utility Routines */
281
282 extern caddr_t pagebuf_offset(          /* pointer at offset in buffer  */
283                 xfs_buf_t *,            /* buffer to offset into        */
284                 size_t);                /* offset                       */
285
286 /* Pinning Buffer Storage in Memory */
287
288 extern void pagebuf_pin(                /* pin buffer in memory         */
289                 xfs_buf_t *);           /* buffer to pin                */
290
291 extern void pagebuf_unpin(              /* unpin buffered data          */
292                 xfs_buf_t *);           /* buffer to unpin              */
293
294 extern int pagebuf_ispin(               /* check if buffer is pinned    */
295                 xfs_buf_t *);           /* buffer to check              */
296
297 /* Delayed Write Buffer Routines */
298
299 extern void pagebuf_delwri_dequeue(xfs_buf_t *);
300
301 /* Buffer Daemon Setup Routines */
302
303 extern int pagebuf_init(void);
304 extern void pagebuf_terminate(void);
305
306
307 #ifdef PAGEBUF_TRACE
308 extern ktrace_t *pagebuf_trace_buf;
309 extern void pagebuf_trace(
310                 xfs_buf_t *,            /* buffer being traced          */
311                 char *,                 /* description of operation     */
312                 void *,                 /* arbitrary diagnostic value   */
313                 void *);                /* return address               */
314 #else
315 # define pagebuf_trace(pb, id, ptr, ra) do { } while (0)
316 #endif
317
318 #define pagebuf_target_name(target)     \
319         ({ char __b[BDEVNAME_SIZE]; bdevname((target)->pbr_bdev, __b); __b; })
320
321
322
323
324
325 /* These are just for xfs_syncsub... it sets an internal variable
326  * then passes it to VOP_FLUSH_PAGES or adds the flags to a newly gotten buf_t
327  */
328 #define XFS_B_ASYNC             PBF_ASYNC
329 #define XFS_B_DELWRI            PBF_DELWRI
330 #define XFS_B_READ              PBF_READ
331 #define XFS_B_WRITE             PBF_WRITE
332 #define XFS_B_STALE             PBF_STALE
333
334 #define XFS_BUF_TRYLOCK         PBF_TRYLOCK
335 #define XFS_INCORE_TRYLOCK      PBF_TRYLOCK
336 #define XFS_BUF_LOCK            PBF_LOCK
337 #define XFS_BUF_MAPPED          PBF_MAPPED
338
339 #define BUF_BUSY                PBF_DONT_BLOCK
340
341 #define XFS_BUF_BFLAGS(x)       ((x)->pb_flags)
342 #define XFS_BUF_ZEROFLAGS(x)    \
343         ((x)->pb_flags &= ~(PBF_READ|PBF_WRITE|PBF_ASYNC|PBF_DELWRI))
344
345 #define XFS_BUF_STALE(x)        ((x)->pb_flags |= XFS_B_STALE)
346 #define XFS_BUF_UNSTALE(x)      ((x)->pb_flags &= ~XFS_B_STALE)
347 #define XFS_BUF_ISSTALE(x)      ((x)->pb_flags & XFS_B_STALE)
348 #define XFS_BUF_SUPER_STALE(x)  do {                            \
349                                         XFS_BUF_STALE(x);       \
350                                         pagebuf_delwri_dequeue(x);      \
351                                         XFS_BUF_DONE(x);        \
352                                 } while (0)
353
354 #define XFS_BUF_MANAGE          PBF_FS_MANAGED
355 #define XFS_BUF_UNMANAGE(x)     ((x)->pb_flags &= ~PBF_FS_MANAGED)
356
357 #define XFS_BUF_DELAYWRITE(x)    ((x)->pb_flags |= PBF_DELWRI)
358 #define XFS_BUF_UNDELAYWRITE(x)  pagebuf_delwri_dequeue(x)
359 #define XFS_BUF_ISDELAYWRITE(x)  ((x)->pb_flags & PBF_DELWRI)
360
361 #define XFS_BUF_ERROR(x,no)      pagebuf_ioerror(x,no)
362 #define XFS_BUF_GETERROR(x)      pagebuf_geterror(x)
363 #define XFS_BUF_ISERROR(x)       (pagebuf_geterror(x)?1:0)
364
365 #define XFS_BUF_DONE(x)          ((x)->pb_flags &= ~(PBF_PARTIAL|PBF_NONE))
366 #define XFS_BUF_UNDONE(x)        ((x)->pb_flags |= PBF_PARTIAL|PBF_NONE)
367 #define XFS_BUF_ISDONE(x)        (!(PBF_NOT_DONE(x)))
368
369 #define XFS_BUF_BUSY(x)          ((x)->pb_flags |= PBF_FORCEIO)
370 #define XFS_BUF_UNBUSY(x)        ((x)->pb_flags &= ~PBF_FORCEIO)
371 #define XFS_BUF_ISBUSY(x)        (1)
372
373 #define XFS_BUF_ASYNC(x)         ((x)->pb_flags |= PBF_ASYNC)
374 #define XFS_BUF_UNASYNC(x)       ((x)->pb_flags &= ~PBF_ASYNC)
375 #define XFS_BUF_ISASYNC(x)       ((x)->pb_flags & PBF_ASYNC)
376
377 #define XFS_BUF_FLUSH(x)         ((x)->pb_flags |= PBF_FLUSH)
378 #define XFS_BUF_UNFLUSH(x)       ((x)->pb_flags &= ~PBF_FLUSH)
379 #define XFS_BUF_ISFLUSH(x)       ((x)->pb_flags & PBF_FLUSH)
380
381 #define XFS_BUF_SHUT(x)          printk("XFS_BUF_SHUT not implemented yet\n")
382 #define XFS_BUF_UNSHUT(x)        printk("XFS_BUF_UNSHUT not implemented yet\n")
383 #define XFS_BUF_ISSHUT(x)        (0)
384
385 #define XFS_BUF_HOLD(x)         pagebuf_hold(x)
386 #define XFS_BUF_READ(x)         ((x)->pb_flags |= PBF_READ)
387 #define XFS_BUF_UNREAD(x)       ((x)->pb_flags &= ~PBF_READ)
388 #define XFS_BUF_ISREAD(x)       ((x)->pb_flags & PBF_READ)
389
390 #define XFS_BUF_WRITE(x)        ((x)->pb_flags |= PBF_WRITE)
391 #define XFS_BUF_UNWRITE(x)      ((x)->pb_flags &= ~PBF_WRITE)
392 #define XFS_BUF_ISWRITE(x)      ((x)->pb_flags & PBF_WRITE)
393
394 #define XFS_BUF_ISUNINITIAL(x)   (0)
395 #define XFS_BUF_UNUNINITIAL(x)   (0)
396
397 #define XFS_BUF_BP_ISMAPPED(bp)  1
398
399 #define XFS_BUF_DATAIO(x)       ((x)->pb_flags |= PBF_FS_DATAIOD)
400 #define XFS_BUF_UNDATAIO(x)     ((x)->pb_flags &= ~PBF_FS_DATAIOD)
401
402 #define XFS_BUF_IODONE_FUNC(buf)        (buf)->pb_iodone
403 #define XFS_BUF_SET_IODONE_FUNC(buf, func)      \
404                         (buf)->pb_iodone = (func)
405 #define XFS_BUF_CLR_IODONE_FUNC(buf)            \
406                         (buf)->pb_iodone = NULL
407 #define XFS_BUF_SET_BDSTRAT_FUNC(buf, func)     \
408                         (buf)->pb_strat = (func)
409 #define XFS_BUF_CLR_BDSTRAT_FUNC(buf)           \
410                         (buf)->pb_strat = NULL
411
412 #define XFS_BUF_FSPRIVATE(buf, type)            \
413                         ((type)(buf)->pb_fspriv)
414 #define XFS_BUF_SET_FSPRIVATE(buf, value)       \
415                         (buf)->pb_fspriv = (void *)(value)
416 #define XFS_BUF_FSPRIVATE2(buf, type)           \
417                         ((type)(buf)->pb_fspriv2)
418 #define XFS_BUF_SET_FSPRIVATE2(buf, value)      \
419                         (buf)->pb_fspriv2 = (void *)(value)
420 #define XFS_BUF_FSPRIVATE3(buf, type)           \
421                         ((type)(buf)->pb_fspriv3)
422 #define XFS_BUF_SET_FSPRIVATE3(buf, value)      \
423                         (buf)->pb_fspriv3  = (void *)(value)
424 #define XFS_BUF_SET_START(buf)
425
426 #define XFS_BUF_SET_BRELSE_FUNC(buf, value) \
427                         (buf)->pb_relse = (value)
428
429 #define XFS_BUF_PTR(bp)         (xfs_caddr_t)((bp)->pb_addr)
430
431 extern inline xfs_caddr_t xfs_buf_offset(xfs_buf_t *bp, size_t offset)
432 {
433         if (bp->pb_flags & PBF_MAPPED)
434                 return XFS_BUF_PTR(bp) + offset;
435         return (xfs_caddr_t) pagebuf_offset(bp, offset);
436 }
437
438 #define XFS_BUF_SET_PTR(bp, val, count)         \
439                                 pagebuf_associate_memory(bp, val, count)
440 #define XFS_BUF_ADDR(bp)        ((bp)->pb_bn)
441 #define XFS_BUF_SET_ADDR(bp, blk)               \
442                         ((bp)->pb_bn = (blk))
443 #define XFS_BUF_OFFSET(bp)      ((bp)->pb_file_offset)
444 #define XFS_BUF_SET_OFFSET(bp, off)             \
445                         ((bp)->pb_file_offset = (off))
446 #define XFS_BUF_COUNT(bp)       ((bp)->pb_count_desired)
447 #define XFS_BUF_SET_COUNT(bp, cnt)              \
448                         ((bp)->pb_count_desired = (cnt))
449 #define XFS_BUF_SIZE(bp)        ((bp)->pb_buffer_length)
450 #define XFS_BUF_SET_SIZE(bp, cnt)               \
451                         ((bp)->pb_buffer_length = (cnt))
452 #define XFS_BUF_SET_VTYPE_REF(bp, type, ref)
453 #define XFS_BUF_SET_VTYPE(bp, type)
454 #define XFS_BUF_SET_REF(bp, ref)
455
456 #define XFS_BUF_ISPINNED(bp)    pagebuf_ispin(bp)
457
458 #define XFS_BUF_VALUSEMA(bp)    pagebuf_lock_value(bp)
459 #define XFS_BUF_CPSEMA(bp)      (pagebuf_cond_lock(bp) == 0)
460 #define XFS_BUF_VSEMA(bp)       pagebuf_unlock(bp)
461 #define XFS_BUF_PSEMA(bp,x)     pagebuf_lock(bp)
462 #define XFS_BUF_V_IODONESEMA(bp) up(&bp->pb_iodonesema);
463
464 /* setup the buffer target from a buftarg structure */
465 #define XFS_BUF_SET_TARGET(bp, target)  \
466                 (bp)->pb_target = (target)
467 #define XFS_BUF_TARGET(bp)      ((bp)->pb_target)
468 #define XFS_BUFTARG_NAME(target)        \
469                 pagebuf_target_name(target)
470
471 #define XFS_BUF_SET_VTYPE_REF(bp, type, ref)
472 #define XFS_BUF_SET_VTYPE(bp, type)
473 #define XFS_BUF_SET_REF(bp, ref)
474
475 #define xfs_buf_read(target, blkno, len, flags) \
476                 pagebuf_get((target), (blkno), (len), \
477                         PBF_LOCK | PBF_READ | PBF_MAPPED)
478 #define xfs_buf_get(target, blkno, len, flags) \
479                 pagebuf_get((target), (blkno), (len), \
480                         PBF_LOCK | PBF_MAPPED)
481
482 #define xfs_buf_read_flags(target, blkno, len, flags) \
483                 pagebuf_get((target), (blkno), (len), PBF_READ | (flags))
484 #define xfs_buf_get_flags(target, blkno, len, flags) \
485                 pagebuf_get((target), (blkno), (len), (flags))
486
487 static inline int       xfs_bawrite(void *mp, xfs_buf_t *bp)
488 {
489         bp->pb_fspriv3 = mp;
490         bp->pb_strat = xfs_bdstrat_cb;
491         pagebuf_delwri_dequeue(bp);
492         return pagebuf_iostart(bp, PBF_WRITE | PBF_ASYNC | _PBF_RUN_QUEUES);
493 }
494
495 static inline void      xfs_buf_relse(xfs_buf_t *bp)
496 {
497         if (!bp->pb_relse)
498                 pagebuf_unlock(bp);
499         pagebuf_rele(bp);
500 }
501
502 #define xfs_bpin(bp)            pagebuf_pin(bp)
503 #define xfs_bunpin(bp)          pagebuf_unpin(bp)
504
505 #define xfs_buftrace(id, bp)    \
506             pagebuf_trace(bp, id, NULL, (void *)__builtin_return_address(0))
507
508 #define xfs_biodone(pb)             \
509             pagebuf_iodone(pb, (pb->pb_flags & PBF_FS_DATAIOD), 0)
510
511 #define xfs_incore(buftarg,blkno,len,lockit) \
512             pagebuf_find(buftarg, blkno ,len, lockit)
513
514
515 #define xfs_biomove(pb, off, len, data, rw) \
516             pagebuf_iomove((pb), (off), (len), (data), \
517                 ((rw) == XFS_B_WRITE) ? PBRW_WRITE : PBRW_READ)
518
519 #define xfs_biozero(pb, off, len) \
520             pagebuf_iomove((pb), (off), (len), NULL, PBRW_ZERO)
521
522
523 static inline int       XFS_bwrite(xfs_buf_t *pb)
524 {
525         int     iowait = (pb->pb_flags & PBF_ASYNC) == 0;
526         int     error = 0;
527
528         if (!iowait)
529                 pb->pb_flags |= _PBF_RUN_QUEUES;
530
531         pagebuf_delwri_dequeue(pb);
532         pagebuf_iostrategy(pb);
533         if (iowait) {
534                 error = pagebuf_iowait(pb);
535                 xfs_buf_relse(pb);
536         }
537         return error;
538 }
539
540 #define XFS_bdwrite(pb)              \
541             pagebuf_iostart(pb, PBF_DELWRI | PBF_ASYNC)
542
543 static inline int xfs_bdwrite(void *mp, xfs_buf_t *bp)
544 {
545         bp->pb_strat = xfs_bdstrat_cb;
546         bp->pb_fspriv3 = mp;
547
548         return pagebuf_iostart(bp, PBF_DELWRI | PBF_ASYNC);
549 }
550
551 #define XFS_bdstrat(bp) pagebuf_iorequest(bp)
552
553 #define xfs_iowait(pb)  pagebuf_iowait(pb)
554
555 #define xfs_baread(target, rablkno, ralen)  \
556         pagebuf_readahead((target), (rablkno), (ralen), PBF_DONT_BLOCK)
557
558 #define xfs_buf_get_empty(len, target)  pagebuf_get_empty((len), (target))
559 #define xfs_buf_get_noaddr(len, target) pagebuf_get_no_daddr((len), (target))
560 #define xfs_buf_free(bp)                pagebuf_free(bp)
561
562
563 /*
564  *      Handling of buftargs.
565  */
566
567 extern xfs_buftarg_t *xfs_alloc_buftarg(struct block_device *);
568 extern void xfs_free_buftarg(xfs_buftarg_t *, int);
569 extern int xfs_setsize_buftarg(xfs_buftarg_t *, unsigned int, unsigned int);
570 extern void xfs_incore_relse(xfs_buftarg_t *, int, int);
571 extern int xfs_flush_buftarg(xfs_buftarg_t *, int);
572
573 #define xfs_getsize_buftarg(buftarg) \
574         block_size((buftarg)->pbr_bdev)
575 #define xfs_readonly_buftarg(buftarg) \
576         bdev_read_only((buftarg)->pbr_bdev)
577 #define xfs_binval(buftarg) \
578         xfs_flush_buftarg(buftarg, 1)
579 #define XFS_bflush(buftarg) \
580         xfs_flush_buftarg(buftarg, 1)
581
582 #endif  /* __XFS_BUF_H__ */