Lines Matching refs:sch
75 struct Qdisc *sch,
77 struct sk_buff * (*dequeue)(struct Qdisc *sch);
266 struct tcf_block * (*tcf_block)(struct Qdisc *sch,
295 struct Qdisc *sch,
300 int (*init)(struct Qdisc *sch, struct nlattr *arg,
304 int (*change)(struct Qdisc *sch,
307 void (*attach)(struct Qdisc *sch);
309 void (*change_real_num_tx)(struct Qdisc *sch,
315 void (*ingress_block_set)(struct Qdisc *sch,
317 void (*egress_block_set)(struct Qdisc *sch,
319 u32 (*ingress_block_get)(struct Qdisc *sch);
320 u32 (*egress_block_get)(struct Qdisc *sch);
703 void qdisc_offload_graft_helper(struct net_device *dev, struct Qdisc *sch,
717 qdisc_offload_graft_helper(struct net_device *dev, struct Qdisc *sch, in qdisc_offload_graft_helper() argument
838 const struct Qdisc *sch) in qdisc_calculate_pkt_len() argument
841 struct qdisc_size_table *stab = rcu_dereference_bh(sch->stab); in qdisc_calculate_pkt_len()
848 static inline int qdisc_enqueue(struct sk_buff *skb, struct Qdisc *sch, in qdisc_enqueue() argument
851 return sch->enqueue(skb, sch, to_free); in qdisc_enqueue()
871 static inline void qdisc_bstats_cpu_update(struct Qdisc *sch, in qdisc_bstats_cpu_update() argument
874 bstats_update(this_cpu_ptr(sch->cpu_bstats), skb); in qdisc_bstats_cpu_update()
877 static inline void qdisc_bstats_update(struct Qdisc *sch, in qdisc_bstats_update() argument
880 bstats_update(&sch->bstats, skb); in qdisc_bstats_update()
883 static inline void qdisc_qstats_backlog_dec(struct Qdisc *sch, in qdisc_qstats_backlog_dec() argument
886 sch->qstats.backlog -= qdisc_pkt_len(skb); in qdisc_qstats_backlog_dec()
889 static inline void qdisc_qstats_cpu_backlog_dec(struct Qdisc *sch, in qdisc_qstats_cpu_backlog_dec() argument
892 this_cpu_sub(sch->cpu_qstats->backlog, qdisc_pkt_len(skb)); in qdisc_qstats_cpu_backlog_dec()
895 static inline void qdisc_qstats_backlog_inc(struct Qdisc *sch, in qdisc_qstats_backlog_inc() argument
898 sch->qstats.backlog += qdisc_pkt_len(skb); in qdisc_qstats_backlog_inc()
901 static inline void qdisc_qstats_cpu_backlog_inc(struct Qdisc *sch, in qdisc_qstats_cpu_backlog_inc() argument
904 this_cpu_add(sch->cpu_qstats->backlog, qdisc_pkt_len(skb)); in qdisc_qstats_cpu_backlog_inc()
907 static inline void qdisc_qstats_cpu_qlen_inc(struct Qdisc *sch) in qdisc_qstats_cpu_qlen_inc() argument
909 this_cpu_inc(sch->cpu_qstats->qlen); in qdisc_qstats_cpu_qlen_inc()
912 static inline void qdisc_qstats_cpu_qlen_dec(struct Qdisc *sch) in qdisc_qstats_cpu_qlen_dec() argument
914 this_cpu_dec(sch->cpu_qstats->qlen); in qdisc_qstats_cpu_qlen_dec()
917 static inline void qdisc_qstats_cpu_requeues_inc(struct Qdisc *sch) in qdisc_qstats_cpu_requeues_inc() argument
919 this_cpu_inc(sch->cpu_qstats->requeues); in qdisc_qstats_cpu_requeues_inc()
922 static inline void __qdisc_qstats_drop(struct Qdisc *sch, int count) in __qdisc_qstats_drop() argument
924 sch->qstats.drops += count; in __qdisc_qstats_drop()
937 static inline void qdisc_qstats_drop(struct Qdisc *sch) in qdisc_qstats_drop() argument
939 qstats_drop_inc(&sch->qstats); in qdisc_qstats_drop()
942 static inline void qdisc_qstats_cpu_drop(struct Qdisc *sch) in qdisc_qstats_cpu_drop() argument
944 this_cpu_inc(sch->cpu_qstats->drops); in qdisc_qstats_cpu_drop()
947 static inline void qdisc_qstats_overlimit(struct Qdisc *sch) in qdisc_qstats_overlimit() argument
949 sch->qstats.overlimits++; in qdisc_qstats_overlimit()
952 static inline int qdisc_qstats_copy(struct gnet_dump *d, struct Qdisc *sch) in qdisc_qstats_copy() argument
954 __u32 qlen = qdisc_qlen_sum(sch); in qdisc_qstats_copy()
956 return gnet_stats_copy_queue(d, sch->cpu_qstats, &sch->qstats, qlen); in qdisc_qstats_copy()
959 static inline void qdisc_qstats_qlen_backlog(struct Qdisc *sch, __u32 *qlen, in qdisc_qstats_qlen_backlog() argument
964 gnet_stats_add_queue(&qstats, sch->cpu_qstats, &sch->qstats); in qdisc_qstats_qlen_backlog()
965 *qlen = qstats.qlen + qdisc_qlen(sch); in qdisc_qstats_qlen_backlog()
969 static inline void qdisc_tree_flush_backlog(struct Qdisc *sch) in qdisc_tree_flush_backlog() argument
973 qdisc_qstats_qlen_backlog(sch, &qlen, &backlog); in qdisc_tree_flush_backlog()
974 qdisc_tree_reduce_backlog(sch, qlen, backlog); in qdisc_tree_flush_backlog()
977 static inline void qdisc_purge_queue(struct Qdisc *sch) in qdisc_purge_queue() argument
981 qdisc_qstats_qlen_backlog(sch, &qlen, &backlog); in qdisc_purge_queue()
982 qdisc_reset(sch); in qdisc_purge_queue()
983 qdisc_tree_reduce_backlog(sch, qlen, backlog); in qdisc_purge_queue()
1002 static inline int qdisc_enqueue_tail(struct sk_buff *skb, struct Qdisc *sch) in qdisc_enqueue_tail() argument
1004 __qdisc_enqueue_tail(skb, &sch->q); in qdisc_enqueue_tail()
1005 qdisc_qstats_backlog_inc(sch, skb); in qdisc_enqueue_tail()
1035 static inline struct sk_buff *qdisc_dequeue_head(struct Qdisc *sch) in qdisc_dequeue_head() argument
1037 struct sk_buff *skb = __qdisc_dequeue_head(&sch->q); in qdisc_dequeue_head()
1040 qdisc_qstats_backlog_dec(sch, skb); in qdisc_dequeue_head()
1041 qdisc_bstats_update(sch, skb); in qdisc_dequeue_head()
1097 static inline unsigned int __qdisc_queue_drop_head(struct Qdisc *sch, in __qdisc_queue_drop_head() argument
1106 qdisc_qstats_backlog_dec(sch, skb); in __qdisc_queue_drop_head()
1114 static inline struct sk_buff *qdisc_peek_head(struct Qdisc *sch) in qdisc_peek_head() argument
1116 const struct qdisc_skb_head *qh = &sch->q; in qdisc_peek_head()
1122 static inline struct sk_buff *qdisc_peek_dequeued(struct Qdisc *sch) in qdisc_peek_dequeued() argument
1124 struct sk_buff *skb = skb_peek(&sch->gso_skb); in qdisc_peek_dequeued()
1128 skb = sch->dequeue(sch); in qdisc_peek_dequeued()
1131 __skb_queue_head(&sch->gso_skb, skb); in qdisc_peek_dequeued()
1133 qdisc_qstats_backlog_inc(sch, skb); in qdisc_peek_dequeued()
1134 sch->q.qlen++; in qdisc_peek_dequeued()
1141 static inline void qdisc_update_stats_at_dequeue(struct Qdisc *sch, in qdisc_update_stats_at_dequeue() argument
1144 if (qdisc_is_percpu_stats(sch)) { in qdisc_update_stats_at_dequeue()
1145 qdisc_qstats_cpu_backlog_dec(sch, skb); in qdisc_update_stats_at_dequeue()
1146 qdisc_bstats_cpu_update(sch, skb); in qdisc_update_stats_at_dequeue()
1147 qdisc_qstats_cpu_qlen_dec(sch); in qdisc_update_stats_at_dequeue()
1149 qdisc_qstats_backlog_dec(sch, skb); in qdisc_update_stats_at_dequeue()
1150 qdisc_bstats_update(sch, skb); in qdisc_update_stats_at_dequeue()
1151 sch->q.qlen--; in qdisc_update_stats_at_dequeue()
1155 static inline void qdisc_update_stats_at_enqueue(struct Qdisc *sch, in qdisc_update_stats_at_enqueue() argument
1158 if (qdisc_is_percpu_stats(sch)) { in qdisc_update_stats_at_enqueue()
1159 qdisc_qstats_cpu_qlen_inc(sch); in qdisc_update_stats_at_enqueue()
1160 this_cpu_add(sch->cpu_qstats->backlog, pkt_len); in qdisc_update_stats_at_enqueue()
1162 sch->qstats.backlog += pkt_len; in qdisc_update_stats_at_enqueue()
1163 sch->q.qlen++; in qdisc_update_stats_at_enqueue()
1168 static inline struct sk_buff *qdisc_dequeue_peeked(struct Qdisc *sch) in qdisc_dequeue_peeked() argument
1170 struct sk_buff *skb = skb_peek(&sch->gso_skb); in qdisc_dequeue_peeked()
1173 skb = __skb_dequeue(&sch->gso_skb); in qdisc_dequeue_peeked()
1174 if (qdisc_is_percpu_stats(sch)) { in qdisc_dequeue_peeked()
1175 qdisc_qstats_cpu_backlog_dec(sch, skb); in qdisc_dequeue_peeked()
1176 qdisc_qstats_cpu_qlen_dec(sch); in qdisc_dequeue_peeked()
1178 qdisc_qstats_backlog_dec(sch, skb); in qdisc_dequeue_peeked()
1179 sch->q.qlen--; in qdisc_dequeue_peeked()
1182 skb = sch->dequeue(sch); in qdisc_dequeue_peeked()
1204 static inline void qdisc_reset_queue(struct Qdisc *sch) in qdisc_reset_queue() argument
1206 __qdisc_reset_queue(&sch->q); in qdisc_reset_queue()
1209 static inline struct Qdisc *qdisc_replace(struct Qdisc *sch, struct Qdisc *new, in qdisc_replace() argument
1214 sch_tree_lock(sch); in qdisc_replace()
1219 sch_tree_unlock(sch); in qdisc_replace()
1224 static inline void rtnl_qdisc_drop(struct sk_buff *skb, struct Qdisc *sch) in rtnl_qdisc_drop() argument
1227 qdisc_qstats_drop(sch); in rtnl_qdisc_drop()
1230 static inline int qdisc_drop_cpu(struct sk_buff *skb, struct Qdisc *sch, in qdisc_drop_cpu() argument
1234 qdisc_qstats_cpu_drop(sch); in qdisc_drop_cpu()
1239 static inline int qdisc_drop(struct sk_buff *skb, struct Qdisc *sch, in qdisc_drop() argument
1243 qdisc_qstats_drop(sch); in qdisc_drop()
1248 static inline int qdisc_drop_all(struct sk_buff *skb, struct Qdisc *sch, in qdisc_drop_all() argument
1252 qdisc_qstats_drop(sch); in qdisc_drop_all()
1349 void mq_change_real_num_tx(struct Qdisc *sch, unsigned int new_real_tx);