]> Pileus Git - ~andy/linux/blob - block/blk-mq-cpu.c
blk-mq: use __smp_call_function_single directly
[~andy/linux] / block / blk-mq-cpu.c
1 #include <linux/kernel.h>
2 #include <linux/module.h>
3 #include <linux/init.h>
4 #include <linux/blkdev.h>
5 #include <linux/list.h>
6 #include <linux/llist.h>
7 #include <linux/smp.h>
8 #include <linux/cpu.h>
9
10 #include <linux/blk-mq.h>
11 #include "blk-mq.h"
12
13 static LIST_HEAD(blk_mq_cpu_notify_list);
14 static DEFINE_SPINLOCK(blk_mq_cpu_notify_lock);
15
16 static int blk_mq_main_cpu_notify(struct notifier_block *self,
17                                   unsigned long action, void *hcpu)
18 {
19         unsigned int cpu = (unsigned long) hcpu;
20         struct blk_mq_cpu_notifier *notify;
21
22         spin_lock(&blk_mq_cpu_notify_lock);
23
24         list_for_each_entry(notify, &blk_mq_cpu_notify_list, list)
25                 notify->notify(notify->data, action, cpu);
26
27         spin_unlock(&blk_mq_cpu_notify_lock);
28         return NOTIFY_OK;
29 }
30
31 static struct notifier_block __cpuinitdata blk_mq_main_cpu_notifier = {
32         .notifier_call  = blk_mq_main_cpu_notify,
33 };
34
35 void blk_mq_register_cpu_notifier(struct blk_mq_cpu_notifier *notifier)
36 {
37         BUG_ON(!notifier->notify);
38
39         spin_lock(&blk_mq_cpu_notify_lock);
40         list_add_tail(&notifier->list, &blk_mq_cpu_notify_list);
41         spin_unlock(&blk_mq_cpu_notify_lock);
42 }
43
44 void blk_mq_unregister_cpu_notifier(struct blk_mq_cpu_notifier *notifier)
45 {
46         spin_lock(&blk_mq_cpu_notify_lock);
47         list_del(&notifier->list);
48         spin_unlock(&blk_mq_cpu_notify_lock);
49 }
50
51 void blk_mq_init_cpu_notifier(struct blk_mq_cpu_notifier *notifier,
52                               void (*fn)(void *, unsigned long, unsigned int),
53                               void *data)
54 {
55         notifier->notify = fn;
56         notifier->data = data;
57 }
58
59 void __init blk_mq_cpu_init(void)
60 {
61         register_hotcpu_notifier(&blk_mq_main_cpu_notifier);
62 }