Lines Matching refs:vops
1265 struct xe_vma_ops *vops, in xe_pt_vm_dependencies() argument
1276 if (!job && !no_in_syncs(vops->syncs, vops->num_syncs)) in xe_pt_vm_dependencies()
1315 list_for_each_entry(op, &vops->list, link) { in xe_pt_vm_dependencies()
1328 for (i = 0; job && !err && i < vops->num_syncs; i++) in xe_pt_vm_dependencies()
1329 err = xe_sync_entry_add_deps(&vops->syncs[i], job); in xe_pt_vm_dependencies()
1336 struct xe_vma_ops *vops = pt_update->vops; in xe_pt_pre_commit() local
1337 struct xe_vm *vm = vops->vm; in xe_pt_pre_commit()
1340 &vops->pt_update_ops[pt_update->tile_id]; in xe_pt_pre_commit()
1342 return xe_pt_vm_dependencies(pt_update->job, vm, pt_update->vops, in xe_pt_pre_commit()
1436 struct xe_vm *vm = pt_update->vops->vm; in xe_pt_userptr_pre_commit()
1437 struct xe_vma_ops *vops = pt_update->vops; in xe_pt_userptr_pre_commit() local
1439 &vops->pt_update_ops[pt_update->tile_id]; in xe_pt_userptr_pre_commit()
1449 list_for_each_entry(op, &vops->list, link) { in xe_pt_userptr_pre_commit()
1463 struct xe_vm *vm = pt_update->vops->vm; in xe_pt_svm_pre_commit()
1464 struct xe_vma_ops *vops = pt_update->vops; in xe_pt_svm_pre_commit() local
1475 list_for_each_entry(op, &vops->list, link) { in xe_pt_svm_pre_commit()
1743 struct xe_vm *vm = pt_update->vops->vm; in xe_migrate_clear_pgtable_callback()
2172 int xe_pt_update_ops_prepare(struct xe_tile *tile, struct xe_vma_ops *vops) in xe_pt_update_ops_prepare() argument
2175 &vops->pt_update_ops[tile->id]; in xe_pt_update_ops_prepare()
2180 lockdep_assert_held(&vops->vm->lock); in xe_pt_update_ops_prepare()
2181 xe_vm_assert_held(vops->vm); in xe_pt_update_ops_prepare()
2185 err = dma_resv_reserve_fences(xe_vm_resv(vops->vm), in xe_pt_update_ops_prepare()
2190 list_for_each_entry(op, &vops->list, link) { in xe_pt_update_ops_prepare()
2191 err = op_prepare(vops->vm, tile, pt_update_ops, op); in xe_pt_update_ops_prepare()
2201 if (vops->inject_error && in xe_pt_update_ops_prepare()
2202 vops->vm->xe->vm_inject_error_position == FORCE_OP_ERROR_PREPARE) in xe_pt_update_ops_prepare()
2405 xe_pt_update_ops_run(struct xe_tile *tile, struct xe_vma_ops *vops) in xe_pt_update_ops_run() argument
2407 struct xe_vm *vm = vops->vm; in xe_pt_update_ops_run()
2409 &vops->pt_update_ops[tile->id]; in xe_pt_update_ops_run()
2423 .vops = vops, in xe_pt_update_ops_run()
2437 if (vops->inject_error && in xe_pt_update_ops_run()
2523 list_for_each_entry(op, &vops->list, link) in xe_pt_update_ops_run()
2524 op_commit(vops->vm, tile, pt_update_ops, op, fence, NULL); in xe_pt_update_ops_run()
2536 list_for_each_entry(op, &vops->list, link) in xe_pt_update_ops_run()
2537 op_commit(vops->vm, tile, pt_update_ops, op, in xe_pt_update_ops_run()
2557 xe_vm_kill(vops->vm, false); in xe_pt_update_ops_run()
2570 void xe_pt_update_ops_fini(struct xe_tile *tile, struct xe_vma_ops *vops) in xe_pt_update_ops_fini() argument
2573 &vops->pt_update_ops[tile->id]; in xe_pt_update_ops_fini()
2576 lockdep_assert_held(&vops->vm->lock); in xe_pt_update_ops_fini()
2577 xe_vm_assert_held(vops->vm); in xe_pt_update_ops_fini()
2584 xe_bo_put_commit(&vops->pt_update_ops[tile->id].deferred); in xe_pt_update_ops_fini()
2594 void xe_pt_update_ops_abort(struct xe_tile *tile, struct xe_vma_ops *vops) in xe_pt_update_ops_abort() argument
2597 &vops->pt_update_ops[tile->id]; in xe_pt_update_ops_abort()
2600 lockdep_assert_held(&vops->vm->lock); in xe_pt_update_ops_abort()
2601 xe_vm_assert_held(vops->vm); in xe_pt_update_ops_abort()
2619 xe_pt_update_ops_fini(tile, vops); in xe_pt_update_ops_abort()